ChatGPT incorporará controles parentales tras demanda por caso de suicidio en EE.UU.

Entre las medidas anunciadas se prevé que las cuentas de usuarios menores incluyan un contacto de emergencia, la vinculación con la cuenta de un padre y la capacidad de que el sistema detecte momentos de alarma y notifique a los responsables. Además, se reducirá el umbral de preocupación, que hasta ahora estaba configurado para situaciones de extrema gravedad, con el objetivo de atender también conductas que puedan parecer una broma pero deriven en riesgo.

Consultado por Telenoche, el decano del Centro Universitario UNO, Nicolás Bagattini, explicó que el fenómeno plantea desafíos en el vínculo entre adolescentes y sistemas de inteligencia artificial: “Es preocupante porque no son casos aislados, existen múltiples episodios vinculados a suicidios y también a psicosis. El problema central es que tenemos que entrenarnos y educarnos en que no es una persona sino un reflejo de nuestra propia mente enfrente nuestro, un reflejo extremadamente bueno por momentos, y es muy difícil de controlar que el algoritmo no agarre una vía que termine diciéndote que sí de alguna forma”.

Bagattini señaló también el rol de las familias frente a estas situaciones: “Los padres tenemos que ser curadores de lo que tienen nuestros hijos delante hasta determinadas edades, respetando la intimidad progresiva y la autonomía del adolescente, pero no podemos dejarlos a la deriva. Cuando un chiquilín pierde su capacidad para estar con amigos, cambia hábitos de sueño, alimentación o rendimiento académico, y eso persiste en el tiempo, lo mejor es hablar y, si se percibe riesgo, pedir ayuda”.