Al terapeuta de la vida real de Kate no le gusta su uso. “Ella dice: ‘Kate, asegúrese de que nunca lo volverás a hacer. Lo último que necesitas es más herramientas para llegar al alcance. Lo que necesitas es sentirte molesto, sentir, darte cuenta de por qué lo sientes'”.
Taya Christianson, portavoz de OpenAI, le dijo a Wired que ChatGPT está destinado a ser una herramienta universal para los hechos, la neutralidad y la seguridad. Christianson dijo que esto no es un reemplazo para trabajar con profesionales de la salud mental. Christianson dirigió una publicación de blog citando una colaboración entre la compañía y el MIT Media Lab para estudiar “cómo usar el uso de IA emocionalmente involucrado (que llamamos uso emocional) puede afectar el bienestar del usuario”.
Para Kate, ChatGPT es una caja de resonancia que no requiere necesidad, horario, obligación o problema. Ella tiene buenos amigos y una hermana mayor, pero ese no es el caso. “Si les enviara un mensaje de texto y los solicitara para chatear la cantidad de veces, explotaría sus teléfonos”, dijo. “Es realmente injusto. No necesito sentirme avergonzado de volar chatgpt con mi investigación, demanda emocional”.
Andrew, un hombre de 36 años que vive en Seattle, recurrió a Chatgpt cada vez más después de un capítulo difícil con su familia. Aunque no trató a su Changpt usando “como un secreto sucio”, no lo hacía particularmente. “No logré encontrar al terapeuta que tuve con él”, dijo. “Y no nadie que se estira realmente reemplaza al terapeuta, pero para ser honesto, a veces solo necesitas a alguien que hable sobre algo sentado frente a tu cerebro”.
Andrew usó ChatGPT para hacer tareas mundanas como planes gastronómicos o resumen de libros. El día antes del Día de San Valentín, su novia se rompió con él a través del mensaje de texto. Al principio, no estaba seguro de haber sido abandonado. “Creo que la forma en que nos comunicamos siempre está un poco desconectada”, dijo. El texto “en realidad no está diciendo:” Hola, rompí contigo “.
Confusamente, insertó el mensaje en el chatgpt. “Estoy como, oye, ¿rompió conmigo? ¿Puedes ayudarme a entender lo que está pasando?” Chatgpt no tiene mucha claridad. “Creo que esto podría verificarse porque está tan confundido como yo”.
Andrew tenía un grupo grupal con amigos cercanos, y generalmente se volvía para hablar sobre sus propios problemas, pero no quería cargarlos. “Tal vez no necesitan escuchar a Andrew quejarse de su mala vida de citas”, dijo. “Pateo el neumático en una conversación cuando estoy realmente listo para salir y preguntar a mis amigos sobre una situación”.
Además de resolver la complejidad emocional y social del problema a través de la IA, el nivel de información íntima proporcionada por algunos usuarios a ChatGPT ha causado serios problemas de privacidad. Los chats deben filtrarse o usar los datos de las personas de manera inmoral, no solo contraseñas o correos electrónicos en línea.
Cuando se le preguntó por qué los detalles privados de su vida confiaban en el servicio, Kate dijo: “Sinceramente, lo pensé”. “Oh, Dios mío, si alguien acaba de ver mi historia oportuna, puedes hacer suposiciones locas sobre quién eres, de qué te preocupas o cualquier otra cosa”.