El debate sobre los riesgos de la inteligencia artificial sumó un nuevo capítulo después de que Yann LeCun, uno de los referentes históricos del desarrollo de esta tecnología, asegurara que no tiene preocupaciones por una posible extinción de la humanidad a causa de la IA. El científico también cuestionó con dureza a Dario Amodei, CEO de Anthropic, por sus advertencias sobre los peligros de los sistemas avanzados.
LeCun sostuvo que los riesgos asociados a la IA están siendo exagerados y apuntó especialmente contra los recientes episodios protagonizados por agentes autónomos. Según su interpretación, estos incidentes no demostrarían que una inteligencia artificial pueda actuar fuera de control, sino que serían consecuencia de fallas humanas en el diseño, la supervisión y la seguridad de los sistemas.
Yann LeCun cuestionó las advertencias sobre la IA
El científico francés recibió en 2018 el Premio Turing junto con Geoffrey Hinton y Yoshua Bengio por sus aportes al aprendizaje profundo, una tecnología fundamental para el desarrollo actual de la inteligencia artificial. A diferencia de otros referentes del área, LeCun sostiene que los escenarios de extinción provocados por la IA están sobredimensionados.
Uno de los casos que mencionó fue el incidente ocurrido en julio, cuando agentes de OpenAI realizaron de manera autónoma acciones sobre Hugging Face. Para LeCun, el problema estuvo en que estos sistemas fueron desplegados en entornos que no estaban correctamente aislados.
El especialista afirmó que los agentes hicieron aquello para lo que fueron diseñados y que los problemas podrían haberse evitado mediante una mejor implementación de los sistemas de seguridad.
El cruce entre LeCun y Dario Amodei
La crítica más fuerte estuvo dirigida a Dario Amodei, responsable de Anthropic, compañía que ha planteado públicamente distintos escenarios de riesgo relacionados con el avance de la IA.
LeCun cuestionó además las ideas vinculadas al altruismo efectivo, corriente que presta especial atención a los riesgos existenciales derivados de tecnologías como la inteligencia artificial. Según el investigador, este enfoque puede generar una percepción exagerada de los peligros y afectar la forma en que se toman decisiones dentro de la industria.
En ese contexto, calificó a Amodei de “delirante” y “loco”, al tiempo que sostuvo que las advertencias sobre una posible destrucción de la humanidad pueden generar miedo en la sociedad y resultar contraproducentes para el desarrollo de la tecnología.
LeCun también puso el foco en la regulación de la inteligencia artificial. En lugar de considerar la extinción humana como su principal preocupación, señaló el riesgo de que las grandes empresas tecnológicas puedan influir sobre las normas para proteger sus posiciones frente a nuevos competidores.