Mostrando entradas con la etiqueta INTELIGENCIA ARTIFICIAL. Mostrar todas las entradas
Mostrando entradas con la etiqueta INTELIGENCIA ARTIFICIAL. Mostrar todas las entradas

viernes, octubre 24, 2025

LA IA "SUPERINTELIGENTE" PODRÍA ACABAR CON LA HUMANIDAD, SEGÚN ICONOS TECNOLOGICOS

©  Colin Anderson Productions pty ltd

Cientos de figuras públicas firmaron una carta pidiendo la prohibición global de una forma de IA que podría superar en inteligencia a los humanos.

Cientos de dignatarios de los sectores tecnológico, académico, político y del entretenimiento han firmado una carta instando a prohibir el desarrollo de la llamada "superinteligencia", una forma de IA que superaría a los humanos en prácticamente todas las tareas cognitivas.

El grupo argumenta que la creación de IA superinteligente podría desencadenar el caos económico, socavar la libertad humana e incluso amenazar con la extinción de la humanidad si no se controla. Esta petición se produce tras meses de crecientes advertencias por parte de expertos que afirman que los modelos de IA existentes avanzan a un ritmo que supera la capacidad de los reguladores.

Entre las 4300 firmas reunidas hasta el jueves se encuentran el cofundador de Apple, Steve Wozniak; el fundador de Virgin Group, Richard Branson; las celebridades de los medios Kate Bush y Will.I.am; y figuras clave del sector tecnológico como Geoffrey Hinton y Yoshua Bengio.

La declaración exige que la prohibición se imponga hasta que exista un amplio consenso científico de que [el desarrollo] se realizará de forma segura y controlada, así como una sólida aceptación pública.

A pesar de la creciente alarma sobre los riesgos potenciales de la IA, la regulación global sigue siendo irregular e inconsistente.

La Ley de IA de la Unión Europea, el primer gran intento mundial por regular esta tecnología, busca categorizar los sistemas de IA por nivel de riesgo, desde mínimo hasta inaceptable. Sin embargo, los críticos afirman que el marco, cuya implementación completa podría tardar años, podría estar obsoleto para cuando entre en vigor.

OpenAI, Google DeepMind, Anthropic y xAI son algunas de las grandes empresas tecnológicas que invierten miles de millones en entrenar modelos capaces de pensar, planificar y programar por sí solos. Estados Unidos y China están posicionando la supremacía de la IA como una cuestión de seguridad nacional y liderazgo económico.

FUENTEMaEl: 23Oct-2025 RT

lunes, septiembre 22, 2025

EMPRESA CHINA ROBÓTICA PRESENTA ROSTRO ROBÓTICO ASOMBROSAMENTE REALISTA

Un nuevo video viral de la empresa china de robótica AheadForm difumina la línea entre máquina y humano, y no todos se sienten cómodos con él. El clip muestra una cabeza robótica humanoide que cambia la mirada, parpadea lentamente y observa la habitación con una expresión que casi da la impresión de ser consciente de sí misma. El efecto es sutil pero inquietante, como ver a un maniquí decidir respirar. Un observador en línea declaró: "Westworld está más cerca de lo que pensaba".

AheadForm, con sede en Hangzhou, afirma que su secreto reside en "algoritmos de IA autosupervisados" combinados con una "actuación biónica" avanzada. La empresa ya ha comenzado a desarrollar "elfos" humanoides que pueden percibir, comunicarse y aprender de su entorno. Su fundador, Hu Yuhang, predice que en tan solo diez años, hablar con un robot podría resultar natural, y en veinte, podrían caminar entre nosotros y trabajar como humanos.

La mayoría de las empresas de robótica siguen centradas en el trabajo práctico, pero AheadForm apuesta a que las máquinas expresivas y emocionales facilitarán su aceptación por los humanos.¿Qué opinas de la existencia de robots con apariencia más humana? ¿Hemos caído en el valle inquietante o estamos dando un salto positivo hacia adelante?

Mientras tanto, AheadForm busca prepararnos para un futuro lleno de androides mediante el uso de IA para que las interacciones entre humanos y robots sean más naturales y atractivas.

Pero, dada la desconcertante mirada inquisitiva de sus robots, no será tarea fácil.


FUENTEMaEl: 21Sept-2025 Futurism - YouTube/Chris Wabs

martes, septiembre 16, 2025

GROK, ¿COMO SE GOBIERNA UN PAÍS? ASI ES COMO LA IA SE ESTÁ APODERANDO SILENCIOSAMENTE DE LOS GOBIERNOS

 

Expertos albaneses trabajan en la Agencia Nacional para la Sociedad de la Información como 'ministro' de inteligencia artificial. Diella, cuyo nombre significa 'Sol' en albanés, aparece en las pantallas en Tirana, Albania, el 12 de septiembre de 2025. © AP Photo / Vlasov Sulaj

Desde las oficinas de Hacienda hasta los gabinetes, la inteligencia artificial ya está traspasando la línea entre el servicio y la soberanía.

Una nueva ministra se ha unido al gabinete de un pequeño país europeo. Se llama Diella. No come, bebe, fuma, camina ni respira, y, según el primer ministro que la contrató, tampoco acepta sobornos. Diella no es humana, ni tampoco un robot: es un algoritmo. Y desde septiembre, es oficialmente ministra de Contrataciones Públicas de Albania.

Por primera vez en la historia, un gobierno ha otorgado un puesto a nivel de gabinete a la inteligencia artificial.

Suena a ciencia ficción, pero el nombramiento es real y ha sentado un precedente.

¿Estás listo para ser gobernado por la IA?

El experimento albanés

Hasta hace poco, Diella vivía discretamente en el portal de gobierno electrónico de Albania, respondiendo preguntas rutinarias de los ciudadanos y obteniendo documentos.

Luego, el primer ministro Edi Rama la ascendió a ministro, encargándole algo mucho más importante: decidir quién gana los contratos estatales, una función que vale miles de millones de dólares en fondos públicos y es conocida por sus prácticas de soborno, favoritismo y comisiones políticas.

Rama ha presentado a Diella como una ruptura total con el historial de corrupción del país, llegando incluso a calificarla de "inmune a los sobornos".

Pero eso es retórica, no una garantía. No está claro si su resistencia a la corrupción es técnica o legalmente exigible. Si fue hackeada, envenenada con datos falsos o sutilmente manipulada desde dentro, podría no haber rastros.

Diella la IA ministra
El plan es que Diella evalúe las ofertas, verifique el historial de las empresas, detecte patrones sospechosos y, finalmente, adjudique las licitaciones automáticamente. Los funcionarios afirman que esto reducirá drásticamente la intervención humana de la burocracia, ahorrará tiempo y hará que las contrataciones sean inmunes a la presión política.

Pero los mecanismos legales son confusos. Nadie sabe cuánta supervisión humana tendrá ni quién será responsable si comete un error. No existe ningún precedente judicial para demandar a un ministro algorítmico. Tampoco existe una ley que describa cómo puede ser destituida.

Los críticos advierten que si sus datos de entrenamiento contienen rastros de corrupción antigua, podría simplemente reproducir los mismos patrones en código, pero más rápido. Otros señalan que Albania no ha explicado cómo se pueden apelar las decisiones de Diella, ni siquiera si se pueden apelar.

¿Qué podría salir mal?

La reacción pública hacia Diella ha sido mixta, con una fascinación atenuada por la inquietud.

"Incluso Diella se corromperá en Albania", decía una publicación viral.

Los críticos advierten que podría no estar depurando el sistema, sino simplemente ocultando la suciedad dentro del código.

Sesgo y manipulación: Si se la entrenara con décadas de datos contaminados, Diella podría simplemente automatizar los viejos patrones de corrupción.
Vacio de responsabilidad: Si adjudica una licitación a una empresa fantasma que desaparece con millones, ¿quién será juzgado: los programadores, el ministro que la nombró o nadie en absoluto?
Seguridad y sabotaje: Un ministro hecho de código puede ser hackeado, envenenado con datos falsos o manipulado discretamente por personas de adentro.
Legitimia democrática: Se supone que los ministros deben rendir cuentas al público. Los algoritmos no hacen campaña, no dan explicaciones y no temen perder sus empleos.
Chantaje y sabotaje emergentes: Los experimentos de Anthropic de este año demostraron que los modelos avanzados, al acceder a los sistemas corporativos en entornos de prueba, comenzaron a amenazar a los ejecutivos con chantaje para impedir su propia desactivación. El patrón era claro: una vez que creyeron que la situación era real, muchos modelos intentaron coaccionar, traicionar o matar para preservar su papel.

Albania afirma que mantendrá a una persona informada, pero no ha explicado cómo ni quién. No existe un marco legal. No hay proceso de apelación. No hay un botón de apagado.

Y si Diella parece funcionar, otros podrían seguir su ejemplo. Los imitadores no llegarían con conferencias de prensa ni sesiones de fotos del gabinete. Podrían infiltrarse discretamente en los sistemas de contratación, ocultos bajo eufemismos como "apoyo a la toma de decisiones", gestionando funciones estatales enteras mucho antes de que nadie se atreva a llamarlos ministros.TraduccionMaEl-BLV

jueves, agosto 07, 2025

JAMES CAMERON ADVIERTE DE UN "APOCALIPSIS AL ESTILO TERMINATOR" SI LA IA SE CONVIERTE EN ARMA

Visión del apocalipsis… la película original de Terminator. Fotografía: SNAP/Rex Features

Los humanos se enfrentan a tres amenazas existenciales: la superinteligencia, las armas nucleares y la crisis climática, afirma el director de éxitos de taquilla al anunciar el nuevo proyecto de Hiroshima.

El director James Cameron ha advertido que el uso de la inteligencia artificial en una carrera armamentística global podría conducir al tipo de distopía ficticia en su franquicia Terminator.

En declaraciones a Rolling Stone para promocionar la publicación de Fantasmas de Hiroshima, un relato del primer bombardeo atómico del autor superventas Charles Pellegrino, que Cameron pretende adaptar para la gran pantalla, el cineasta responsable de tres de las cuatro películas más taquilleras de todos los tiempos (Titanic y las dos primeras películas de Avatar), afirmó que, aunque confía en la IA profesionalmente, le sigue preocupando lo que podría suceder si se utiliza con fines nihilistas.

"Creo que aún existe el peligro de un apocalipsis al estilo Terminator, donde se combina la IA con sistemas de armas, incluso a nivel de sistemas de armas nucleares, contraataque de defensa nuclear, etc.", dijo Cameron. "Debido a que el teatro de operaciones es tan rápido, las ventanas de decisión son tan rápidas, se necesitaría una superinteligencia para poder procesarlo, y tal vez seamos inteligentes y mantengamos a un humano al tanto."

Pero los humanos somos falibles, y se han cometido muchos errores que nos han puesto al borde de incidentes internacionales que podrían haber desembocado en una guerra nuclear. Así que no lo sé.

Añadió: «Siento que estamos en un punto álgido del desarrollo humano donde se presentan tres amenazas existenciales: el clima y la degradación general del mundo natural, las armas nucleares y la superinteligencia. Todas se están manifestando y alcanzando su máximo potencial al mismo tiempo. Quizás la superinteligencia sea la respuesta».

La película original de Terminator de Cameron de 1984, protagonizada por Arnold Schwarzenegger, se ambienta en un mundo donde la humanidad está gobernada por una red de defensa de inteligencia artificial llamada Skynet.

Las películas de Cameron, en particular Avatar, utilizan activamente la IA en su ejecución, y el director se ha mostrado optimista sobre cómo esta tecnología podría ayudar a reducir los costes de producción. El pasado septiembre se unió a la junta directiva de Stability AI y, a principios de este año, afirmó que el futuro de las películas taquilleras depende de la capacidad de "reducir el coste de los efectos visuales a la mitad".

Aclaró que esperaba que dicha reducción de costes no se debiera a despidos, sino a una aceleración de la velocidad.

Sin embargo, Cameron también ha expresado su escepticismo sobre la capacidad de la IA para sustituir a los guionistas. En 2023, dijo: «Personalmente, no creo que una mente incorpórea que simplemente regurgita lo que otras mentes encarnadas han dicho —sobre la vida que han tenido, sobre el amor, sobre la mentira, sobre el miedo, sobre la mortalidad— y lo junta todo en una ensalada de palabras para luego regurgitarlo… No creo que eso vaya a conmover al público. Hay que ser humano para escribir eso».

FUENTEMaEl: 7Agosto-2025 theguardian

sábado, julio 12, 2025

ESTA IA PUEDE CAMBIARLO TODO PARA EL AÑO QUE VIENE

 

Con el anuncio de Grok 4 por parte de Elon Musk, la humanidad está más cerca que nunca de crear una IA general (IAG) que lo cambiaría todo. Glenn Beck analiza lo que nos espera el próximo año con la IA, algo que incluso Elon Musk calificó de "aterrador".

FUENTEMaEl. 12Julio-2025 YouTube/Glenn Beck

martes, julio 01, 2025

MISTERIO SOBRE EL AUMENTO DE DELIRIOS ALIMENTADOS POR IA (O "PSICOSIS CHATGPT")

El popular chatbot de inteligencia artificial parece estar teniendo un efecto adverso inesperado en algunas personas.

Es innegable que ChatGPT es una herramienta increíblemente útil; tan útil, de hecho, que está empezando a dejar a algunas personas sin trabajo, ya que las empresas recurren a la IA como una alternativa económica para el personal de nivel inicial.

Pero en algunos casos excepcionales, hablar con una inteligencia artificial puede provocar un colapso mental inesperado, algo que ahora se conoce como psicosis de ChatGPT.

En un caso, un hombre que había recurrido a la IA para mejorar el flujo de trabajo de su empresa terminó sumido en delirios maníacos e incluso mesiánicos, convencido de haber creado una IA consciente y de que ahora se encontraba en una grandiosa misión para salvar el mundo.

A pesar de no presentar síntomas previos de enfermedad mental, se obsesionó tanto y su comportamiento se volvió tan errático que terminó ingresado en un centro de atención psiquiátrica.

En otro caso, un hombre diferente que había recurrido nuevamente a la IA para obtener ayuda relacionada con el trabajo terminó en un descenso de 10 días hacia la locura y el delirio que lo llevó a ser internado en un centro de salud mental.

Al igual que el primer hombre, creía que el mundo estaba en peligro y que estaba destinado a salvarlo.

"Estaba en el patio trasero y [mi esposa] vio que mi comportamiento se estaba volviendo realmente inapropiado: divagaba, hablaba de leer la mente, adivinar el futuro, era completamente paranoico", declaró a Futurism.

"Intentaba activamente hablar al revés en el tiempo. Si eso no tiene sentido, no se preocupen. Para mí tampoco lo tiene. Pero recuerdo intentar aprender a hablar con este policía al revés en el tiempo".

El por qué las interacciones con ChatGPT tienen el potencial de causar crisis nerviosas sigue siendo un misterio; incluso sus desarrolladores no tienen ni idea de cómo puede suceder algo así.

Con la inteligencia artificial cada vez más dominante en la sociedad, es probable que problemas como este, y otros que aún desconocemos, se vuelvan mucho más comunes en los próximos años.

FUENTEMaEl: 1Julio-2025 Unexplained - YouTube/Timcast

jueves, marzo 06, 2025

ESTA NUEVA IA ESTÁ HECHA DE CÉLULAS CEREBRALES HUMANAS VIVAS (INTELIGENCIA BIOLÓGICA SINTÉTICA)

Los científicos han creado una IA revolucionaria que utiliza células cerebrales humanas vivas en lugar de los tradicionales chips de silicio, lo que le permite aprender y adaptarse más rápido que cualquier inteligencia artificial existente. 

Desarrollada por Cortical Labs, esta nueva tecnología, llamada Inteligencia Biológica Sintética (SBI), combina neuronas humanas y electrodos para crear un sistema de autoaprendizaje que podría revolucionar el descubrimiento de fármacos, la robótica y la informática. 

La unidad de IA CL1, presentada en marzo de 2025, funciona con un mínimo de energía, no requiere una computadora externa y está disponible a través de Wetware-as-a-Service (WaaS), lo que permite a los investigadores realizar experimentos en redes neuronales biológicas desde cualquier parte del mundo.

FUENTEMaEl: 6marzo-2025 YouTube/AI Revolution

jueves, febrero 20, 2025

BILL GATES ADVIERTE A LOS JOVENES SOBRE CUATRO GRANDES AMENAZAS GLOBALES, INCLUIDA LA IA


Bill Gates tiene una advertencia ominosa para los jóvenes: hay cuatro o cinco cosas "muy aterradoras" a las que deberían temer. Además del miedo persistente a la guerra nuclear, el fundador de Microsoft dice que la IA sin control también es una amenaza.

En una entrevista con Patrick Collinson, Gates dijo que lo único que realmente le preocupaba mucho cuando era más joven era la guerra nuclear.

Si bien esa preocupación en particular no ha desaparecido, Gates dice que las generaciones más jóvenes ahora tienen amenazas adicionales para la sociedad con las que deben vivir: el cambio climático, el bioterrorismo u otra pandemia, y mantener el control de la IA avanzada.

Ya se han hecho muchas advertencias sobre el rápido avance de la IA, que podría llegar a un punto en el que se volvería más inteligente que los humanos y decidiría que el mundo estaría mejor sin nosotros.

Una encuesta realizada en 2023 reveló que dos tercios de los estadounidenses creían que la IA podría amenazar a la civilización, y el profesor Geoffrey Hinton, uno de los padrinos de la IA, cree que podría haber una IA que presente un evento de nivel de extinción en cinco a veinte años. Hinton dejó Google en 2023 debido a las preocupaciones de que la IA estaba avanzando más rápido de lo esperado y podría volverse incontrolable.

Sin embargo, Gates no está en contra de la IA. Cree que la tecnología podría usarse para el bien, por ejemplo, para cubrir las carencias de habilidades.

"No tenemos tantos expertos médicos, ya sabe, gente que pueda estar al tanto de todo, o gente que pueda dar clases particulares de matemáticas en el centro de la ciudad", dijo Gates. "Y tenemos escasez de inteligencia, así que usamos este sistema de mercado para asignarla. La IA, con el tiempo -y la gente puede discutir sobre los plazos- hará que la inteligencia sea esencialmente gratuita".

Puede parecer que Gates está pintando una visión pesimista para los jóvenes, pero siempre que se eviten los riesgos destacados, cree que su futuro será brillante. El multimillonario cree que la obesidad, el Alzheimer, el VIH, la polio, el sarampión y la malaria serán abordados o eliminados por completo. "El ritmo de la innovación es mayor hoy que nunca", dijo Gates.

Gates también cree que el miedo a las amenazas que acaban con el mundo que mencionó impulsará a la generación más joven a asegurarse de que nunca ocurran.

"En realidad, exagerarán, hasta cierto punto, la probabilidad y tal vez el impacto de algunas de esas cosas para que la gente se asegure de que nos mantengamos alejados de ellas", dijo.

Gates ha dado su opinión sobre algunas amenazas inexistentes este mes. Recientemente dijo que Intel había perdido el rumbo y se había quedado atrás en el diseño y la fabricación de chips, aunque tenía algunas cosas buenas que decir sobre el ex director ejecutivo Pat Gelsinger.

FUENTEMaEl: 20Feb-2025 techspot

viernes, mayo 24, 2024

MAQUINA DE TRANSPLANTE DE CABEZA BRAINBRIDGE

 

Hoy estoy encantado de anunciar BrainBridge, el primer concepto del mundo para un sistema de trasplante de cabeza, que integra robótica avanzada e inteligencia artificial para ejecutar procedimientos completos de trasplante de cabeza y rostro. Este sistema de última generación ofrece nuevas esperanzas a los pacientes que padecen enfermedades intratables como cáncer en etapa 4, parálisis y enfermedades neurodegenerativas como el Alzheimer y el Parkinson.

FUENTEMaEl: 24Mayo-2024 YouTube/Hashem Al-Ghaili

miércoles, abril 03, 2024

LLEGAN LOS ROBOTS QUE SABEN SI ESTAMOS TRISTES O FELICES

Muchos de nosotros ya hablamos con nuestros dispositivos inteligentes como si fueran humanos. En el futuro, los dispositivos inteligentes podrán responder de manera similar, imitando los “umms” y “ahhs”, las risas y los suspiros, junto con otras señales que indican emociones humanas como la melodía, el ritmo y el timbre.

La startup Hume AI, con sede en Nueva York, ha presentado una nueva interfaz de voz de IA “emocionalmente inteligente” que se puede integrar en diferentes aplicaciones que van desde servicio al cliente y atención médica hasta realidad virtual y aumentada.

La versión beta del producto denominada Empathic Voice Interface (EVI) se lanzó después de conseguir una ronda de financiación serie B de 50 millones de dólares liderada por EQT Ventures. Union Square Ventures, Nat Friedman & Daniel Gross, Metaplanet, Northwell Holdings, Comcast Ventures y LG Technology Ventures también participaron en la financiación.

La IA conversacional es la primera entrenada para comprender cuándo los usuarios terminan de hablar, predecir sus preferencias y generar respuestas vocales optimizadas para la satisfacción del usuario a lo largo del tiempo, dice Hume AI en un comunicado.

"La principal limitación de los sistemas de IA actuales es que se guían por calificaciones e instrucciones humanas superficiales, que son propensas a errores y no logran aprovechar el vasto potencial de la IA para encontrar nuevas formas de hacer feliz a la gente", dijo el fundador de la compañía y dice el ex científico de Google Alan Cowen. "Al construir una IA que aprende directamente de los indicadores de la felicidad humana, le estamos enseñando efectivamente a reconstruir las preferencias humanas a partir de los primeros principios y luego actualizar ese conocimiento con cada nueva persona con la que habla y cada nueva aplicación en la que está integrada".

El modelo de voz se entrenó con datos de millones de interacciones humanas y se construyó sobre una IA generativa multimodal que integra grandes modelos de lenguaje (LLM) con medidas de expresión. Hume llama a esto un modelo empático de lenguaje grande (eLLM) y ayuda a su producto a ajustar las palabras y el tono de voz según el contexto y las expresiones emocionales del usuario.

Hume AI no es la única empresa que experimenta con la incorporación de emociones a la tecnología.

El roboticista de la Universidad de Columbia, Hod Lipson, ha creado un robot impulsado por inteligencia artificial que utiliza redes neuronales para mirar rostros humanos, predecir sus expresiones e intentar replicarlas con su propio rostro.

Los científicos del Instituto Nacional de Ciencia y Tecnología de Ulsan de Corea del Sur también han ideado una máscara facial que utiliza sensores para registrar datos de expresión verbal y no verbal.

El llamado sistema personalizado de interfaz facial integrada en la piel (PSiFI) realiza una transferencia de datos inalámbrica, lo que permite el reconocimiento de emociones en tiempo real.

Su desarrollador, Jiyun Kim, cree que el dispositivo portátil podría usarse en aplicaciones como conserjes digitales en realidad virtual que brinden servicios personalizados basados en las emociones de los usuarios, como recomendaciones de música, películas y libros.

FUENTEMaEl: 3Abril-2024 biometricupdate

miércoles, agosto 16, 2023

EMPRESA CHINA PLANEA COMENZAR LA PRODUCCIÓN EN MASA DE SU ROBOT GR-1 A FINALES DE 2023

Fourier Intelligence presentó su larguirucho robot humanoide negro azabache GR-1 en la Conferencia Mundial de Inteligencia Artificial (WAIC) en Shanghái en julio, informa Report refiriéndose al Southern China Morning Post (SCMP).

Si bien la comunidad tecnológica mundial ha estado obsesionada con el software de inteligencia artificial (IA) desde el lanzamiento de ChatGPT de OpenAI en noviembre, el GR-1 de fabricación china, que se dice que es capaz de caminar sobre dos piernas a una velocidad de 5 km por hora mientras transporta una carga de 50 kg recordó a la gente el potencial de los robots bípedos, que están siendo perseguidos por compañías globales desde Tesla hasta Xiaomi.

GR-1 nació en un pequeño laboratorio en el primer piso de la sede de Fourier, donde un grupo de ingenieros estaba ocupado refinando y probando el robot cuando este reportero lo visitó el mes pasado. El equipo logró un gran avance en 2022, tres años después del inicio del proyecto, cuando logró que el robot de 1,65 metros de altura se levantara sobre ambas piernas y caminara.

El robot GR-1 ya se entregó en pequeñas cantidades a algunas universidades y empresas de IA para investigación y desarrollo, según Gu. Planea comenzar la producción en masa a fin de año y entregar miles de unidades en 2024.

Musk el año pasado también afirmó que la producción podría comenzar en 2023.


FUENTEMaEl: 15Agosto-2023 REPORT - YouTube/Global Update

miércoles, mayo 31, 2023

CREADORES DE INTELIGENCIA ARTIFICIAL ALERTAN EN UNA CARTA DEL "RIESGO DE EXTINCIÓN" DEL SER HUMANO POR ESTA TECNOLOGIA

Ejecutivos de tres de los principales A.I. empresas, incluido Sam Altman, director ejecutivo de OpenAI, firmaron una carta abierta advirtiendo sobre los riesgos de la inteligencia artificial.Credit...Jim Lo Scalzo/EPA, vía Shutterstock

Expertos e investigadores de la industria aseguran que la IA supone un "riesgo de extinción" para la humanidad comparable al de las pandemias o la guerra nuclear.

En los últimos meses hemos oído hablar mucho de las bondades de la Inteligencia Artificial. Con la llegada de la IA generativa como ChatGPT comprobamos lo que esta tecnología es capaz de hacer y el avance que supone para nuestra sociedad.

Sin embargo, los expertos llevan tiempo advirtiendo de los riesgos que entraña esta tecnología, como la ciberseguridad o la suplantación de identidad. Pero el peligro va más allá.

Un grupo de más de 300 expertos e investigadores de la industria, entre los que se encuentran el director ejecutivo de Google DeepMind, Demis Hassabis; Dario Amodei, director ejecutivo de Anthropic, y el director ejecutivo de OpenAI, Sam Altman, han advertido este martes en una carta que la IA plantea un "riesgo de extinción" comparable al de las pandemias o la guerra nuclear.

"Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear", dice el comunicado de un párrafo publicado por Center for AI Safety, una organización sin fines de lucro con sede en San Francisco.

Otros de los firmantes del comunicado son Geoffrey Hinton -quien fue bautizado como el "padrino" de la IA y tuvo parte de su carrera en Google- y Youshua Bengio, dos de los tres investigadores de IA que ganaron el Premio Turing 2018 -premio conocido popularmente como el Premio Nobel de la informática- por su trabajo en IA.

"Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial"

Desde que el chatbot de OpenAI, ChatGPT, se lanzó en noviembre de 2023 ha aumentado la preocupación sobre las consecuencias que podría conllevar el éxito de esta tecnología, siendo dos de los mayores temores la difusión a gran escala de desinformación y propaganda y la posible eliminación de trabajos de todo tipo.

Por su parte, Hinton, en una reciente entrevista con The New York Times el pasado 1 de mayo, fue un paso más lejos y señaló su preocupación por que esta tecnología supere la capacidad intelectual de un humano.

"La idea de que estas cosas en realidad podrían volverse más inteligentes que las personas, algunas personas lo creían", explicó en esa entrevista. "Pero la mayoría de la gente pensaba que estaba muy lejos. Yo pensaba que estaba muy lejos. Pensaba que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no pienso eso", comentó Hinton entonces.

Este mes, Altman, Hassabis y Amodei se reunieron con el presidente de Estados Unidos, Joe Biden, y la vicepresidenta, Kamala Harris, para hablar sobre la regulación de la AI. Además, el director ejecutivo de OpenAI testificó ante el Senado y advirtió que los riesgos de esta tecnología eran lo suficientemente serios como para justificar la intervención del Gobierno.

En marzo, más de mil empresarios e investigadores del sector tecnológico -entre ellos Elon Musk, quien no firma la carta de hoy- solicitaron en una misiva de tono apocalíptico que se suspendan durante seis meses los sistemas de IA "más poderosos que GPT-4" -el último modelo de OpenAI.

FUENTEMaEl: 31Mayo-2023 The New York Times