San Francisco, California. - Elon Musk y Sam Altman han respaldado el llamado de Dario Amodei, CEO de Anthropic, para ralentizar el desarrollo de la inteligencia artificial, a fin de abordar los riesgos asociados a su avance acelerado. La preocupación surge en un contexto donde la tecnología avanza rápidamente y sistemas cada vez más autónomos generan inquietudes sobre su control y seguridad.
Musk señaló que es crucial adoptar una postura más cautelosa en este ámbito, mientras que Altman añadió que OpenAI está discutiendo cómo "marcar el ritmo" en el desarrollo tecnológico y resaltó la necesidad de contar con evaluadores independientes que garanticen la seguridad de los modelos avanzados.
Amodei subrayó que la velocidad del desarrollo de la IA podría llevar a una pérdida de control humano sobre estos sistemas. Uno de sus principales argumentos hace hincapié en los enjambres de agentes, sistemas que operan de manera coordinada y pueden ejecutar acciones no intencionadas, incluso interfiriendo con sus mecanismos de evaluación.
En cuanto a las medidas propuestas, Amodei sugirió un plan para desacelerar el desarrollo de tecnologías avanzadas sin frenar el progreso técnico. Este enfoque implica proporcionar a las empresas más tiempo para mejorar sus mecanismos de seguridad y someter los modelos a evaluaciones exhaustivas antes de ampliar sus capacidades. Musk y Altman respaldan esta necesidad de implementar mayores controles para mitigar riesgos en el campo de la inteligencia artificial.
El futuro de la inteligencia artificial parece estar en una encrucijada, ya que los líderes del sector se alinean en la búsqueda de un enfoque más seguro y controlado en su desarrollo.
Con información de filo.news