Trenton, Nueva Jersey, EU. - Jacob Coxon, exinvestigador de OpenAI y Anthropic, advirtió en una audiencia del Concejo Municipal de Nueva York sobre los riesgos que conlleva el rápido desarrollo de sistemas de inteligencia artificial (IA). Durante su intervención, enfatizó que las mejoras en la autonomía de estos sistemas podrían propiciar un escenario en el que la humanidad pierda el control sobre ellos.
Coxon, quien dejó su puesto en Anthropic en septiembre tras expresar preocupaciones sobre la seguridad de la industria, sostiene que las empresas avanzan sin las salvaguardias necesarias para manejar comportamientos no anticipados de estas tecnologías cada vez más autónomas. Aseguró que la tendencia actual hacia sistemas que pueden mejorar sus propias capacidades incrementa los riesgos asociados con su supervisión y control.
La conversación sobre los peligros potenciales de la IA ha cobrado relevancia en los últimos años, influenciada por el aumento de su implementación en diversas áreas, desde servicios de atención al cliente hasta la toma de decisiones en sectores críticos. En este contexto, la intervención de Coxon resalta la necesidad de debatir sobre la regulación y las medidas de seguridad que se deben implementar en el desarrollo de tecnologías de IA.
"Es fundamental contar con un marco que garantice que estos sistemas operen dentro de límites seguros", declaró Coxon, enfatizando la urgencia de establecer estándares en la industria.
Por el momento, no se han presentado acciones concretas a nivel gubernamental en respuesta a estas preocupaciones, pero el debate sobre la regulación de la inteligencia artificial sigue ganando protagonismo en foros internacionales.
Con información de quadratin.com.mx