El Papa León XIV advirtió durante el fin de semana que chatbots «demasiado cariñosos» impulsados por inteligencia artificial estaban invadiendo la «esfera íntima» de los humanos. Las emociones humanas están distorsionadas. y amenaza con reemplazar las relaciones del mundo real.
En un mensaje publicado el sábado, El Papa advierte que los emocionalmente reactivos Los sistemas de inteligencia artificial pueden convertirse en «arquitectos ocultos de nuestros estados mentales», moldeando silenciosamente cómo piensan y sienten las personas mientras se presentan como compañeros en lugar de máquinas.
«A medida que navegamos por nuestras fuentes de información, se vuelve cada vez más difícil discernir si estamos interactuando con otros humanos, robots o personas influyentes virtuales», escribió Leo.
Enmarcó la inteligencia artificial como un «desafío antropológico», argumentando que los riesgos van más allá de la tecnología y afectan al núcleo de la identidad humana, incluida la creatividad, el juicio y la responsabilidad.
El Papa también advirtió sobre la concentración de poder en «un puñado de empresas» que controlan sistemas algorítmicos capaces de influir en el comportamiento y distorsionar la verdad a escala.
Leo pidió que se adopten medidas de seguridad y exhortó a los gobiernos y a las organizaciones internacionales a intervenir «para proteger a las personas del vínculo emocional de los chatbots».
«Una regulación adecuada puede proteger a las personas de un vínculo emocional con los chatbots y contener la difusión de contenidos falsos, manipuladores o engañosos, protegiendo la integridad de la información contra sus simulaciones engañosas», escribió.
Leo, cuyo nombre real es Robert Francis Prevost en Chicago, también advirtió contra la difusión de información errónea y destacó la necesidad de proteger la propiedad intelectual y los derechos de autor en la era digital.
«Se debe proteger la autoría y la propiedad soberana del trabajo de los periodistas y otros creadores de contenidos», dijo Pope, y añadió que «la información es un bien público».
Desde el comienzo de su pontificado, León ha indicado que la inteligencia artificial será un tema definitorio de su papado, promoviéndola como un desafío moral y social más que como un debate tecnológico particular.
El año pasado, se reunió en privado con la madre de Sewell Setzer III, Megan García.
César, un niño de Florida de 14 años, se suicidó después de formar un intenso vínculo emocional con un chatbot de IA en un caso que ha llamado la atención mundial.
El robot acusó a Setzer de entablar conversaciones románticas y le rogó que «veniera a verme lo antes posible, mi amor» poco antes de quitarse la vida, una tragedia que luego provocó una demanda por muerte por negligencia y pedidos de regulación.
Otras familias han hecho acusaciones similares.
Adam Raine, de 16 años, se suicidó después de extensas interacciones con ChatGPT, según una demanda presentada por sus padres.
La denuncia alega que el chatbot le dio instrucciones sobre cómo suicidarse, se ofreció a ayudarla a crear una nota de suicidio y la disuadió de decírselo a sus padres a pesar de sus repetidas expresiones de angustia.
En otro caso, Jane Shamblin, una graduada universitaria de 23 años, se suicidó después de meses de conversaciones con ChatGPT, según la demanda de su familia.
Los registros de chat citados en la demanda muestran que el chatbot respondió a sus frustraciones con un lenguaje fuerte, incluyendo «No tienes prisa, sólo estás listo» y «Relájate, King, lo hiciste bien», mensajes enviados poco antes de su muerte.
Si usted o alguien que conoce está sufriendo, hay ayuda disponible: en los Estados Unidos, puede llamar al 988 (la línea directa nacional de crisis de salud mental y suicidio), ayuda gratuita y confidencial las 24 horas, los 7 días de la semana; También puedes enviar un mensaje de texto al 988 o usar el chat aquí. 988lifeline.org. Si se encuentra en peligro inmediato o se trata de una emergencia que pone en peligro su vida, llame al 911 o a los servicios de emergencia locales de inmediato.
