El dramático pedido de expertos para pausar la inteligencia artificial
La humanidad está "en riesgo"
Elon Musk; el cofundador de Apple Steve Wozniak, ejecutivos de Microsoft y otros académicos piden detener temporalmente el desarrollo de inteligencia artificiale hasta encontrar un marco regulatorio.
El grupo de académicos, expertos, empresarios y CEO’s de grandes empresas tecnológicas, firmaron un llamado a pausar por seis meses la investigación sobre inteligencias artificiales (IA) más potentes que ChatGPT 4, el modelo de OpenAI lanzado este mes, al advertir «grandes riesgos para la humanidad».
La petición fue dada a conocer a través de futureoflife.org. En el texto solicitan una moratoria hasta que se establezcan sistemas de seguridad con nuevas autoridades reguladoras, vigilancia de los sistemas de IA, técnicas que ayuden a distinguir entre lo real y lo artificial, e instituciones capaces de hacer frente a la «dramática perturbación económica y política (especialmente para la democracia) que causará la IA».
Este petitorio refleja la preocupación sobre una IA incontrolable que supere a los humanos, resulta llamativo ver la firma de un empresario como Musk junto a la de el historiador Yuval Noah Hariri.
De Gepetto a Altman
El director de Open AI, que fue también diseñador de ChatGPT, Sam Altman, reconoció tener «un poco de miedo» de que su creación se utilice para «desinformación a gran escala o ciberataques». «La empresa necesita tiempo para adaptarse», declaró Altman recientemente a ABCNews.
«¿Debemos permitir a las máquinas inundar nuestros canales de información con propaganda y mentiras?».
«La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra y debería ser planificada y gestionada con recursos y cuidados correspondientes. Desafortunadamente, este nivel de planificación y gestión no está sucediendo, aunque en los últimos meses los laboratorios de IA han estado encerrados en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable», indica la petición.
«¿Debemos permitir a las máquinas inundar nuestros canales de información con propaganda y mentiras? ¿Debemos automatizar todos los trabajos, incluidos los gratificantes? ¿Debemos arriesgarnos a perder el control de nuestra civilización? Estas decisiones no deben delegarse en líderes tecnológicos no electos», concluyeron.
Entre los firmantes también figuran el cofundador de Apple, Steve Wozniak, miembros del laboratorio de AI DeepMind de Google, el director de Stability AI, Emad Mostaque, así como expertos y académicos estadounidenses de IA e ingenieros ejecutivos de Microsoft, empresa aliada de OpenAI.
