Expertos e investigadores de la industria aseguran que la IA supone un "riesgo de extinción" para la humanidad comparable al de las pandemias o la guerra nuclear.
En los últimos meses hemos oído hablar mucho de las bondades de la Inteligencia Artificial. Con la llegada de la IA generativa como ChatGPT comprobamos lo que esta tecnología es capaz de hacer y el avance que supone para nuestra sociedad.
Sin embargo, los expertos llevan tiempo advirtiendo de los riesgos que entraña esta tecnología, como la ciberseguridad o la suplantación de identidad. Pero el peligro va más allá.
Un grupo de más de 300 expertos e investigadores de la industria, entre los que se encuentran el director ejecutivo de Google DeepMind, Demis Hassabis; Dario Amodei, director ejecutivo de Anthropic, y el director ejecutivo de OpenAI, Sam Altman, han advertido este martes en una carta que la IA plantea un "riesgo de extinción" comparable al de las pandemias o la guerra nuclear.
"Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear", dice el comunicado de un párrafo publicado por Center for AI Safety, una organización sin fines de lucro con sede en San Francisco.
Otros de los firmantes del comunicado son Geoffrey Hinton -quien fue bautizado como el "padrino" de la IA y tuvo parte de su carrera en Google- y Youshua Bengio, dos de los tres investigadores de IA que ganaron el Premio Turing 2018 -premio conocido popularmente como el Premio Nobel de la informática- por su trabajo en IA.
"Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial"
Desde que el chatbot de OpenAI, ChatGPT, se lanzó en noviembre de 2023 ha aumentado la preocupación sobre las consecuencias que podría conllevar el éxito de esta tecnología, siendo dos de los mayores temores la difusión a gran escala de desinformación y propaganda y la posible eliminación de trabajos de todo tipo.
Por su parte, Hinton, en una reciente entrevista con The New York Times el pasado 1 de mayo, fue un paso más lejos y señaló su preocupación por que esta tecnología supere la capacidad intelectual de un humano.
"La idea de que estas cosas en realidad podrían volverse más inteligentes que las personas, algunas personas lo creían", explicó en esa entrevista. "Pero la mayoría de la gente pensaba que estaba muy lejos. Yo pensaba que estaba muy lejos. Pensaba que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no pienso eso", comentó Hinton entonces.
Este mes, Altman, Hassabis y Amodei se reunieron con el presidente de Estados Unidos, Joe Biden, y la vicepresidenta, Kamala Harris, para hablar sobre la regulación de la AI. Además, el director ejecutivo de OpenAI testificó ante el Senado y advirtió que los riesgos de esta tecnología eran lo suficientemente serios como para justificar la intervención del Gobierno.
En marzo, más de mil empresarios e investigadores del sector tecnológico -entre ellos Elon Musk, quien no firma la carta de hoy- solicitaron en una misiva de tono apocalíptico que se suspendan durante seis meses los sistemas de IA "más poderosos que GPT-4" -el último modelo de OpenAI.
FUENTEMaEl: 31Mayo-2023 The New York Times
Brevemente, quisiera decir que uno de los peligros der la IA es, aparte de lo mencionado, el peligro de que una IA gobernase nuestra sociedad o ejerciera algún tipo de poder jurisdiccional en algún aspecto. Una IA aprende mucho más rápido que un ser humano, y, si una IA llegase a dominar nuestra sociedad en algún sentido, podríamos encontrarnos viviendo en un mundo en el que los eventos ocurrirían a una velocidad tan grande que no podríamos comprender qué ocurre ni por qué ocurre. Y, por supuesto, el peligro de que una IA nos destruya depende de que le diéramos tal clase de poder sobre nosotros. Aunque, en primer lugar, el peligro no es la IA, sino el mal uso que se le pudiera dar por parte de ciertas personas. Al final, el verdadero peligro es el ser humano, y el peligro de avanzar científicamente a un ritmo mayor que nuestro avance moral (esto se ha dicho muuuuchas veces).
ResponderEliminar