IA e conduta suicida
Estes días OpenIA, a empresa que desenvolve a IA conversacional máis famosa, ChatGPT, anunciou que estaba traballando para poder prestar axuda ás persoas que estean a pensar en rematar coa súa vida. Isto acontece despois de que a familia dun mozo demandase a compañía por supostamente incentivar a ideación suicida que este amosaba nas conversas con ChatGPT. OpenIA calcula que un 0,15% dos seus usuarios amosan datos nas conversas compatibles con ideas suicidas, o que supón 1,2 millóns de persoas en todo o mundo cada semana.
Cando falamos de conduta suicida, referímonos a calquera conduta ou pensamento que poida levar a rematar de xeito voluntario coa propia vida. Isto inclúe pensamentos pasivos, como "gustaríame non vivir", pensar sobre como morrer, buscar información ao respecto, falar disto con outras persoas, realizar tentativas suicidas e finalmente consumar o suicidio. Non é unha variable dicotómica, senón un continuo. Case todas as persoas ao longo da súa vida presentan algún tipo de síntoma neste continuo, xeralmente a idea de que sería mellor non continuar vivindo, sen que teñan pensamentos de realizar ningunha acción cara a este fin. Destes 0,15% de usuarios que falan sobre a morte con ChatGPT, a inmensa maioría non realizará unha tentativa suicida nin ten un desexo persistente de morte. O problema é que, coa configuración anterior, o programa podía incrementar a ideación ou animar a pasar ao acto, pola súa tendencia a "axudar" o usuario fose cal fose a súa demanda.
A seguinte pregunta sería por que tanta xente prefire falar con ChatGPT antes que coas liñas de axuda especializada dispoñibles. Cando se implantou o 024 no Estado español, moitas persoas, sobre todo as máis novas, expresaron a súa reticencia a chamar por teléfono, e dixeron preferir un chat. Para moitos mozos e mozas este é o xeito de comunicación por defecto, e teñen a sensación de expresarse mellor por escrito e dun certo distanciamento que lles axuda a verbalizar cuestións emocionais complexas. Por outra banda, saber que unha chamada ao 024 pode rematar cunha ambulancia desincentiva moita xente que non quere que se interveña inmediatamente, senón simplemente ser escoitado sen xuízo e sen medo. Máis aló da alarma inicial que poida causar, a relación que se establece coas IA pode darnos pistas sobre como podemos crear sistemas de axuda máis eficaces e máis próximos.