Inteligencia artificial en salud mental: ¿una solución o un peligro?

En el mundo actual, la inteligencia artificial (IA) está presente en cada vez más aspectos de nuestras vidas. Desde los smartphones hasta los autos autónomos, esta tecnología revolucionaria ha transformado nuestra forma de interactuar con el mundo. Sin embargo, su aplicación en áreas sensibles como la salud mental genera un intenso debate.

En las últimas horas, la polémica volvió a surgir tras la presentación de una app creada por la mediática argentina Connie Ansaldi. “Cux, contame un secreto” ofrece asistencia psicológica a base de IA, con 10 conversaciones gratuitas y luego un abono mensual.

Si bien la app promete un espacio de contención y apoyo emocional 24/7, las críticas no tardaron en llegar. La principal preocupación es la falta de intervención humana en el proceso terapéutico. Un usuario de Twitter incluso expuso una captura de pantalla donde la IA recomendaba tomar clonazepam, un medicamento psicotrópico de venta bajo receta.

El caso se agrava aún más con la reciente decisión del municipio bonaerense de Trenque Lauquen de contratar los servicios de la app para su población. El contrato, por tres meses y con uso gratuito para los habitantes, fue cancelado antes de tiempo debido a las recomendaciones de los profesionales de la salud.

La experiencia de Trenque Lauquen pone de manifiesto los riesgos de confiar en la IA para brindar asistencia psicológica. La falta de límites en la intervención del bot y la facilidad para vulnerar sus barreras de seguridad son solo algunos de los aspectos preocupantes.

Es importante recordar que la salud mental es un tema complejo y delicado que requiere un abordaje profesional personalizado. La IA puede ser una herramienta útil para complementar la terapia tradicional, pero nunca reemplazarla.