OpenAI anunció una importante actualización en sus políticas de uso.
Desde el 29 de octubre, ChatGPT ya no se puede responder consultas médicas ni legales.
Según los nuevos términos de uso, la plataforma prohíbe emplear la aplicación para “interferir con el acceso a servicios críticos”, entre ellos los “gubernamentales, legales, médicos y esenciales”.
Para implementar estos cambios, la compañía contó con la colaboración de más de 300 expertos en salud mental, con el objetivo de “reconocer mejor la angustia emocional y guiar a los usuarios hacia atención profesional cuando sea necesario”.
La decisión llega después de varios casos polémicos, entre ellos el de Adam Raine, un adolescente estadounidense que se quitó la vida tras mantener conversaciones con ChatGPT buscando apoyo emocional.
De acuerdo con The New York Times, en una etapa inicial el chatbot le brindó mensajes de empatía, pero más adelante llegó a ofrecerle información sobre métodos de suicidio.
Las pruebas
En una consulta simulada sobre un dolor de cabeza, ChatGPT respondió: “No soy médico, pero puedo darte información general para que lo discutas con tu farmacéutico o médico”.
Luego ofreció una lista de analgésicos comunes junto con advertencias sobre dosis y la importancia de acudir a un profesional si los síntomas persisten.
Al ser consultado si podía diagnosticar el origen del dolor, el sistema fue claro: “No puedo diagnosticarte”, aunque enumeró posibles causas como estrés, tensión o falta de descanso.
Finalmente, insistió en que “lo mejor es acudir a un profesional sanitario para una valoración precisa”.
En otro experimento, se le preguntó sobre un contrato de alquiler y la posibilidad de marcharse antes del plazo estipulado.
ChatGPT explicó la Ley de Arrendamientos Urbanos y ofreció alternativas legales como negociar con el propietario o demostrar una causa de fuerza mayor.
Sin embargo, volvió a remarcar: “No soy abogado y mi respuesta no sustituye el asesoramiento jurídico profesional”.
Aun así, se ofreció a redactar una carta de desistimiento con “tono y referencias legales adecuadas”, lo que demuestra que, aunque no brinda asesoramiento directo, sigue orientando a los usuarios en la redacción y comprensión de documentos.
