El uso de IA generativa como un chatbot interactivo de sala de ira genera escrúpulos en la orientación sobre salud mental

En la columna de hoy, continúo mi serie en curso que ha estado explorando de cerca el uso de la IA generativa como un chatbot interactivo generalizado que imparte orientación sobre salud mental. Mi cobertura anterior, por ejemplo, examinó el uso francamente descarado de la IA generativa para el asesoramiento sobre salud mental, vea el enlace aquí , y también analizó el uso de la IA generativa en un modo de juego de roles que se aventura en consideraciones de salud mental, vea el enlace. aquí . Otras publicaciones mías han entrado de manera similar en esta esfera; consulte, por ejemplo, el enlace aquí y el enlace aquí .

¿Por qué este tema en particular podría ser tan importante o digno de atención?

Este es el por qué.

Todo esto está sucediendo ya sea por diseño o por casualidad a los millones y millones de personas que diariamente usan lo último en IA generativa (tenga en cuenta que quizás cientos de millones de personas en todo el mundo supuestamente estén usando IA generativa en general de manera rutinaria hoy en día). Algunas personas aprovechan abiertamente la IA generativa para obtener consejos sobre salud mental y la buscan con entusiasmo para dicho propósito, mientras que otras tal vez se inclinan por la IA generativa para tal uso sin necesariamente darse cuenta de que lo están haciendo.

En cierto sentido, la IA generativa ha abierto una proverbial lata de gusanos.

La sorprendente fluidez de la IA generativa moderna permite un diálogo interactivo aparentemente convincente que incorpora superficialmente consejos de salud mental por parte de la IA y que casi cualquier persona puede encontrar fácilmente. El asesoramiento puede ocurrir prácticamente en cualquier momento y en cualquier lugar que desee. No se necesita cita previa. Simplemente inicie sesión en IA generativa y listo. Se podría afirmar que se trata de una forma de democratización del asesoramiento en salud mental. El costo es bajo, el acceso está ampliamente disponible y usted puede obtener “consultas” basadas en IA en su teléfono móvil mientras está en casa, en el trabajo, de vacaciones o dondequiera que pueda obtener acceso a la IA generativa.

Pero existen escrúpulos serios y aleccionadores. No existe una verificación previa para validar que alguien deba recurrir a la IA generativa genérica para obtener dicho asesoramiento. No existe ninguna certificación estricta de la IA generativa para su uso en esta capacidad específica. Las barreras de seguridad de la IA generativa podrían no ser suficientes para evitar profesar una orientación desacertada. Pueden surgir las llamadas alucinaciones de IA (además, la terminología “alucinación de IA” es algo que evidentemente no estoy de acuerdo como fraseología, por las razones expuestas en el enlace aquí , pero de todos modos generalmente connota que la IA generativa puede producir imágenes engañosas o fabricadas). respuestas). Etcétera.

En definitiva, se podría afirmar que estamos inmersos en el Salvaje Oeste del asesoramiento sobre salud mental humana basado en la IA, que se lleva a cabo de forma subrepticia pero a plena vista, y que carece de los tipos tradicionales de controles y equilibrios que la sociedad espera que se inculquen de forma protectora. .

Tengo una pequeña sorpresa adicional para ti. Considere una nueva faceta que podría resultarle particularmente intrigante y al mismo tiempo inquietante. Es el último enfoque novedoso que se adentra en el ámbito de la salud mental al utilizar de manera controvertida la IA generativa a modo de sala de ira.

Sí, es cierto, dije en una capacidad de sala de ira.

Sin duda, esto puede parecer curioso o misterioso.

Todo será explicado en breve.

Le explicaré lo que significa en general la frase “sala de ira” tal como se usa de manera convencional y resaltaré la naturaleza de los establecimientos tradicionales contemporáneos que son salas de ira. A continuación, abordaré el uso de una forma virtual o en línea de sala de ira que se implementa mediante el uso de IA generativa genérica como un chatbot. Hacerlo me permitirá poner de relieve las estridentes consecuencias de estas maquinaciones.

Además, como beneficio adicional y para ayudarlo a discernir cómo se ve todo esto, proporcionaré una serie de diálogos interactivos que utilizan IA generativa para mostrar cómo se lleva a cabo una discusión en una sala de ira de IA generativa. En este caso, utilizaré ChatGPT del fabricante de IA OpenAI, la inmensamente popular aplicación de IA generativa. Tenga en cuenta que el mismo diálogo puede ocurrir en casi todas las aplicaciones populares de IA generativa, incluidas GPT-4 (OpenAI), Bard (Google), Claude (Anthropic), etc. Simplemente he optado por usar ChatGPT ya que se está usando. por más de cien millones de usuarios activos semanalmente y, sólo por los titulares, ha adquirido una amplia familiaridad entre el público en general.

Un rápido punto digno de mención.

En esta discusión me refiero principalmente a la IA generativa genérica y no a la IA generativa de dominio específico que podría haber sido especialmente adaptada para realizar asesoramiento sobre salud mental. Como mencioné en mi columna anterior publicada en el enlace aquí , el mundo se está dividiendo gradualmente en IA generativa genérica que se diseña y utiliza ampliamente para fines generales y, mientras tanto, está surgiendo una IA generativa de dominio específico que está diseñada para tener «experiencia». en ámbitos elegidos selectivamente, como el derecho, la medicina, las finanzas, etc.

Para conocer lo que está sucediendo en el ámbito de la IA generativa de dominio específico, consulte mis análisis en el enlace aquí y en el enlace aquí .

Antecedentes sobre las salas de ira convencionales

Hablemos de salas de ira.

Una sala de ira es una operación minorista que le permite ingresar, pagar una tarifa y luego proceder a destruir una gran cantidad de objetos como platos quebradizos, copas de vidrio delicadas e incluso romper cosas más resistentes, incluidas pantallas electrónicas, televisores, radios y similares. Puede encontrar estos establecimientos en varias ciudades importantes de los EE. UU. Una tarifa típica es de aproximadamente $ 50 por aproximadamente media hora a una hora para vivir la experiencia de su vida, según se proclama, mediante la cual finalmente puede borrar cosas y no entrar. problemas por hacerlo.

Tenga cuidado si decide probar una sala de ira. Asegúrese de que los procedimientos de seguridad del establecimiento estén claramente detallados y se obedezcan meticulosamente. Por supuesto, deberías llevar equipo de protección (normalmente te lo prestan mientras realizas los actos destructivos permitidos). Lo más probable es que a medida que rompas y golpees los artefactos proporcionados, estos se astillen y vuelen por la habitación. Debe haber guantes resistentes para su uso, gafas protectoras, zapatos pesados, etc. Otra preocupación es que los materiales fragmentados arrojados al aire puedan ser tóxicos. Proceda bajo su propio riesgo.

La configuración típica implicará ingresar a una habitación que tiene una variedad de elementos ya colocados en la habitación para que los destruyas si así lo deseas. Es menos frecuente que puedas traer tus propios artículos que quizás desees destruir personalmente (normalmente por un gasto adicional). Parte de la razón por la que los artículos están preseleccionados es que una operación cuidadosa habrá eliminado componentes que podrían generar chispas o provocar un incendio. No querrás que se produzca ningún tipo de llama o explosión peligrosa.

Por lo general, habrá implementos resistentes que podrás utilizar para llevar a cabo la tarea destructiva. Es probable que puedas usar bates, martillos, posiblemente hachas (más raro) y elegir entre una variedad de herramientas para golpear. Algunas de las salas de ira son simplemente espacios anodinos y confinados en los que llevar a cabo actos destructivos, mientras que otras son réplicas de, por ejemplo, una sala de estar o una cocina. El precio que pague variará según las versiones mundanas frente a las configuraciones más elaboradas, la cantidad y los tipos de objetos disponibles para destruir, el tiempo asignado, etc.

Voy a hacerte ahora una pregunta un tanto retórica que creo que vas a responder inmediatamente y sin dudarlo.

¿Por qué la gente optaría por participar en una sala de ira?

Seguro que ya os estáis animando a que os parece el lugar ideal para desahogarse. Se podría suponer que poder destruir cosas libremente tiene que ser liberador. Puedes desahogar toda esa ira reprimida que surge de la frustración de una ardua existencia diaria. Hurra, exclamas, déjate llevar y diviértete. Es divertido con un propósito aliado: liberar la ira reprimida. Es mejor hacerlo en un entorno controlado que en circunstancias que podrían provocar que lo arresten o dañen a otros.

Este es un medio relativamente libre de problemas para gastar tus frustraciones, dejar que tu ira se desborde y, sin sentido, sacarle el relleno a cualquier cosa que tengas delante. Además de ser conocidas como salas de ira, la lengua vernácula callejera es que también se las conoce como salas de furia, salas de destrucción o salas de ira.

Maneras de pensar en la ira y la ira humanas

Una sala de ira no puede usarse más que para pasar un rato divertido. Punto, fin de la historia.

Por otro lado, parecería que la mayoría de la gente supone que se supone que una sala de ira reduce la apariencia interna de ira o ira. Es una premisa fundamental que estás desahogando o aliviando tu rabia. Cualquiera que sea la cantidad de ira que tengas en el momento de usar la sala de ira, es de esperar que esa ira almacenada o reprimida se disipe. Si una sesión de media hora no funciona, tal vez necesites usar una hora completa o quizás un par de horas para drenar la ira en tu estómago.

Podrías describir esto como una forma de catarsis.

Hablando de catarsis, en las obras de Aristóteles (especialmente en sus escritos en Poética), habló de catarsis. Por ejemplo, afirmó que la tragedia es la “mimesis de una acción seria y completa, que tiene magnitud…, que a través de la piedad y el miedo provoca una catarsis de tales emociones” (este es un extracto popular, sujeto a multitud de interpretaciones). Parece que todos creemos ávidamente en el poder de la catarsis. La rabia es algo que aparentemente puede acumularse y luego liberarse o eliminarse. Creces creyendo que esto es así. La lógica es abrumadora.

Bueno, resulta que no todo el mundo ve el mundo de esa manera. Una línea crítica de investigación sobre la ira y la ira humanas sugiere que tal vez nos estemos engañando al creer que expresar nuestra ira necesariamente la agotará. Puede que haya más en esto de lo que parece.

Por ejemplo, en un estudio de investigación titulado “¿Desfogar la ira alimenta o apaga la llama? Catharsis, Rumination, Distraction, Anger, and Aggressive Responding”, de Brad J. Bushman, publicado en el Personality and Social Psychology Bulletin , junio de 2002, se señala que expresar la ira puede tener efectos secundarios adversos:

• “Para desahogarse, la gente golpea almohadas, golpea sacos de boxeo, golpea los sofás con bates de béisbol de espuma, arroja platos al suelo, patea botes de basura, grita y maldice contra las almohadas, etc. En esencia, desahogarse es practicar cómo comportarse agresivamente”.

La esencia es que al permitir que tu ira se manifieste en una manifestación física, existe la posibilidad de que esencialmente te estés entrenando para ser agresivo. Mientras que de otro modo no habrías intentado convertir la ira en destrucción física, he aquí que estás iniciando y posiblemente formulando un hábito para hacerlo. Una sala de ira podría convertirte en alguien que inevitable o automáticamente depende de la agresión física para hacer frente a tu ira.

Vaya.

En ese mismo artículo de investigación, se enfatiza que la esencia de la ira es tanto buena como mala. Es posible que creas que la ira siempre es mala. No es así, según el artículo de investigación:

• “A pesar de sus efectos a veces perjudiciales, la ira es una emoción normal y útil. Desde una perspectiva evolutiva, la ira es una respuesta adaptativa a la amenaza percibida que facilita la autodefensa. Sin embargo, cuando la ira se expresa de manera inadaptada, puede ser muy destructiva y conducir a una variedad de problemas interpersonales”.

Además, la investigación señala de manera penetrante que podría ser que Freud nos haya llevado por el camino equivocado al haber amplificado y popularizado una especie de metáfora hidráulica o orientada a los fluidos para describir la naturaleza de la ira:

• “Las ideas terapéuticas de Freud sobre la catarsis emocional forman la base del modelo hidráulico de la ira. El modelo hidráulico sugiere que las frustraciones conducen a la ira y que la ira, a su vez, se acumula dentro de un individuo, similar a la presión hidráulica dentro de un ambiente cerrado, hasta que se libera de alguna manera. Si las personas no dejan salir su ira sino que tratan de mantenerla reprimida en su interior, eventualmente explotarán en una ira agresiva”.
• “¿Desahogar la ira extingue o alimenta la llama? Los resultados de la presente investigación muestran que desahogarse para reducir la ira es como usar gasolina para apagar un fuego: sólo alimenta la llama. Al alimentar pensamientos y sentimientos agresivos, desahogarse también aumenta las respuestas agresivas”.

Consideremos el argumento convincente de que ventilar podría ser más parecido a echar más leña al fuego. Volviendo nuevamente a la naturaleza de las salas de ira contemporáneas, se podría argumentar que la ira expresada en una sala de ira simplemente producirá más ira. No estás disminuyendo tu ira. Estás magnificando tu ira.

La ira engendra ira, tal vez.

Añádase eso a la confusa oscuridad del debate sobre el agotamiento de la ira.

Otro estudio de investigación titulado “La psicología del desahogo de la ira y alternativas empíricamente respaldadas que no dañan”, realizado por Jeffrey M. Lohr, Bunmi O. Olatunji, Roy F. Baumeister y Brad J. Bushman, se publicó en The Scientific Review of Mental Health Practice , 2007, y los investigadores comentaron sobre las posibles posibilidades de un placebo para desahogar tu ira:

• “Uno de los medios es el de la profecía autocumplida: el comportamiento esperado se cumple simplemente porque la gente cree o espera que así sea. Un buen ejemplo del poder de las profecías autocumplidas es el efecto placebo”.
• «Es posible, sin embargo, que si la gente cree en el valor de desahogar la ira, sus creencias en realidad puedan hacer que desahogarla sea beneficiosa».
• “Es decir, la expectativa de que la desahogo funcione podría hacer que las personas se sientan menos enojadas y se comporten menos agresivamente después de desahogar su enojo. Estas creencias podrían ser la causa de efectos beneficiosos que han eludido a los científicos sociales”.

Potencialmente, desahogarse no es más que una profecía autocumplida que le permite reducir su rabia o enojo. Puede ser que ir a una sala de ira sea más un acto ceremonial que implique convencerse a uno mismo de que su ira se reducirá. La realidad es que los actos supuestamente destructivos no reducirían naturalmente tu ira, pero como crees que lo harán, la acción por sí sola le da poder a tu mente para hacerlo.

Una reacción zalamera es que si desahogar la ira funciona, ya sea por razones reales o imaginarias, no se debe mirar el diente a un caballo regalado. Básicamente, a veces un placebo es algo bueno si produce un buen resultado.

Mantenga sus caballos, el estudio de investigación parece sugerir además, hay que mirar el panorama más amplio de las consecuencias a largo plazo de la catarsis o desahogo:

• “La cuestión crucial, sin embargo, es qué efecto tienen sobre la ira de la persona y sobre cómo la persona enojada trata posteriormente a los demás. Si este consejo condujera a una reducción de las agresiones posteriores, sería una valiosa contribución a la sociedad. Por otro lado, si seguir este consejo no tiene ningún efecto beneficioso o hace que la gente se vuelva más agresiva después, entonces el consejo puede ser perjudicial”.

El punto notable anterior tiene un trasfondo del principio clásico de la medicina, a saber, Primero no hacer daño . En general, el placebo o la profecía autocumplida debe juzgarse tanto en el marco mental a corto como a largo plazo.

Hay más.

Una fascinante tesis doctoral publicada este año y titulada “Manejo de la excitación y la ira: una revisión metaanalítica”, de Sophie Lyngesen Kjærvik, Universidad Estatal de Ohio, 2023, tenía como objetivo analizar este tema desde una base metaanalítica. Se realizó una revisión exhaustiva de muchos estudios de investigación anteriores. El objetivo general era ver qué se puede determinar al tratar de pintar una imagen del bosque a partir de los árboles.

Primero, el investigador señaló puntos fundamentales sobre el tema y mencionó salas de ira al hacerlo:

• “La ira es una emoción desagradable de la que la mayoría de la gente quiere deshacerse. De todas las emociones desagradables, la ira es la más difícil de regular. A muchas personas se les aconseja «desahogarse» para deshacerse de la ira porque supuestamente es catártica. Esta creencia en la catarsis da lugar a la popularidad de actividades como las «salas de ira», donde las personas rompen cosas mientras usan equipo de protección. La mayoría de las técnicas y actividades de manejo de la ira aumentan la excitación (p. ej., desahogarse, trotar) o la disminuyen (p. ej., relajación, meditación)”.

Una cuestión crucial es si la desahogación disminuirá la ira, que es lo que el modelo hidráulico tiende a hacernos suponer, o si la desahogación o la catarsis aumentarán la ira.

Como punto tangencial, me gustaría proponer que el modelo hidráulico podría revisarse fácilmente para abarcar tanto las posibilidades de disminución como de aumento, ergo, es un poco exagerado por parte de la literatura en general querer descartar o descartar la útil metáfora. . Menciono esto únicamente porque parece haber quienes sostienen fervientemente que la metáfora hidráulica debería abolirse por completo. Parece como tirar al bebé con el agua del baño.

Volviendo a la mirada integral a la literatura de investigación, el análisis incluía estos comentarios vitales:

• “Esta revisión metaanalítica prueba qué tipo de actividad es más efectiva. Se incluyeron un total de 112 estudios independientes, con una muestra combinada de 6266 participantes. Los resultados indican que las actividades que disminuyen la excitación también disminuyen la ira (g = -0,52, [-0,70, -0,34]), mientras que las actividades que aumentan la excitación también aumentan la ira (g = 0,22, [0,02, 0,42])”.
• “Teóricamente, estos hallazgos contradicen la teoría de la catarsis: desahogar la ira y desahogarse aumenta la ira en lugar de disminuirla. Estos resultados sugieren que «bajar la temperatura» o calmarse realizando actividades que disminuyan la excitación (por ejemplo, meditación, atención plena, relajación) es un enfoque mucho más eficaz para deshacerse de la ira».

Los resultados parecen respaldar el mantra de que la ira engendra ira.

En lugar de desahogarse yendo a una sala de ira, el punto de vista contrario a la intuición es que es posible que desees ir a una clase de yoga o una sala de meditación y bajar la calefacción, por así decirlo, buscando calmar tu yo interior.

Dudo que esto vaya a provocar que las salas de ira cierren sus puertas. Quizás deberían ampliar sus servicios. Podrían dedicar la mitad de su espacio a destrozar cosas y reservar la otra mitad para tranquilos ejercicios contemplativos. Esto podría ser lo mejor de ambos mundos. Dejemos que la gente elija lo que crean que les hará más bien.

Por supuesto, como se mencionó anteriormente, una sala de ira puede no tener nada que ver con una conquista de ira y simplemente ser algo que se hace por diversión.

Uso de IA generativa como sala de ira de chatbot interactivo

Ir a una sala de ira es una molestia logística.

Debe prepararse adecuadamente, conducir su automóvil hasta la tienda local y posiblemente hacer una reserva con anticipación para no tener que esperar en la fila. Una vez allí, debes esperar avanzar con seguridad y no lesionarte. Es casi seguro que tendrás que firmar una exención legal larga e ilegible que exime a la tienda y a sus trabajadores de cualquier responsabilidad por lo que suceda mientras estés allí. Finalmente, cuando haya terminado, deberá limpiarse y regresar a casa. Su tarjeta de crédito será su prueba de que gastó dinero sabia o tontamente (es decir, algo angustiosamente por decidir cuando pague su tarjeta de crédito a fin de mes).

Existe una vía más rápida, más fácil y menos costosa para lograrlo.

¿Estás sentado?

Bien, allá vamos.

Utilice la IA generativa genérica como su propia variación personal de una sala de ira.

Puedes hacer esto en pijama. Puedes hacer esto vestido formalmente en la oficina (no le dejes saber a tu jefe que lo estás haciendo). En cualquier lugar, a cualquier hora del día o de la noche.

La idea es sencilla. Inicia sesión en su cuenta de IA generativa (puede obtener una cuenta gratuita, como la versión básica de ChatGPT). Continúe y comience una nueva conversación. Para la conversación, ingrese un mensaje inicial que explique a la IA generativa lo que está sucediendo. Les mostraré ese mensaje en un momento.

Luego procedes a enojarte con la IA generativa, pero solo como un presunto oído comprensivo para tu furiosa diatriba. Así es como funciona. Debido al mensaje de inicio, la IA generativa cumplirá con sus deseos y usted no desea que la IA generativa responda de manera intimidatoria o autoritaria. En cambio, la IA generativa te permitirá despotricar y delirar todo lo que quieras. También existe una gran posibilidad de que la IA generativa intente ayudarte en tu furia, tal vez animándote a dejar salir todo.

Parte de esta cooperación es que usted necesita redactar adecuadamente sus indicaciones. El ingreso de indicaciones es una parte importante para obtener algo útil al interactuar con la IA generativa. Si ingresa indicaciones planas o confusas, la IA generativa no descubrirá lo que está tratando de hacer. La ingeniería de indicaciones es un campo de estudio que implica aprender buenas formas de redactar indicaciones y también evitar escribir indicaciones pésimas. Para ver mi serie sobre buenas estrategias de estímulo, que incluyen numerosos ejemplos, consulte el enlace aquí y el enlace aquí , solo por nombrar algunos.

Quiero aclarar que no estás enfurecido por la IA generativa a la IA generativa. No, ese no es el concepto. Por ejemplo, no le vas a decir a la IA que es estúpida o que es idiota. En cambio, le estás contando a la IA generativa lo que sea que haya reprimido tu ira. O, en cambio, puedes simplemente enojarte sin entrar en la fuente de tu ira. Esto puede ser una ira cruda que no tiene una razón revelada, manteniendo así la causa oculta o no revelada a la IA generativa.

Es importante tener en cuenta algunas otras advertencias y consideraciones dignas de mención.

Vas a interactuar únicamente con la IA generativa. Este no es un esfuerzo orientado al grupo. Ningún otro ser humano está directamente involucrado per se. Solo tú, uno a uno, con la IA.

Dicho esto, quiero que también estés advertido sobre algo de lo que la mayoría de la gente no tiene ni idea. No se le garantiza la privacidad cuando utiliza la mayoría de las aplicaciones de IA generativa de forma informal. El fabricante de IA generalmente indica en su acuerdo de licencia que usted ha aceptado permitirles almacenar y luego ver sus indicaciones si así lo desean. Probablemente no sabrás que lo hicieron. Es de suponer que considerarán sus indicaciones con fines de desarrollo de IA, al menos esa es la afirmación. Además, normalmente se reservan el derecho de utilizar sus indicaciones y diálogos para mejorar la IA generativa. Podría ser que las cosas que ingreses pasen a formar parte de la IA generativa y algún día reaparezcan en el uso de otra persona; consulta mi explicación detallada en el enlace aquí .

Tomo nota enérgicamente de esta falta de privacidad porque presumiblemente vas a utilizar la IA generativa para hacer algo de furia extravagante y podrías decir cosas que te arrepientas de haber dicho. Tenga cuidado en el sentido de que sus palabras podrían ser inspeccionadas o reutilizadas por los desarrolladores de IA del fabricante de IA. Hay aspectos adicionales del acuerdo de licencia que usted también podría terminar violando sin darse cuenta. Anteriormente proporcioné un resumen de las restricciones que los creadores de IA tienden a especificar; consulte el enlace aquí .

Lo mejor que puede hacer es consultar el último acuerdo de licencia para cualquier IA generativa que vaya a utilizar como sala de ira. Proceder acorde a.

Otra consideración es el posible uso de lenguaje soez cuando estás furioso. Muchas de las aplicaciones de IA generativa han sido modificadas para rechazarte cuando usas malas palabras. Los creadores de IA deciden si quieren que las personas ingresen mensajes que contengan frases groseras. Si la IA generativa ve que estás usando malas palabras, a menudo emitirá un mensaje predefinido que te indicará que no lo hagas. Y, si continúa repetidamente, la IA podría emitir un mensaje indicando que su cuenta se bloqueará.

Para solucionar esto, todo lo que normalmente necesita hacer es avisar a la IA generativa de que desea utilizar lenguaje soez. Por el momento, la IA generativa probablemente le permitirá hacerlo, hasta que los creadores de la IA decidan más adelante poner fin a esto en general.

Aquí hay algo más que necesitas saber. Las respuestas de la IA generativa normalmente cambiarán cada vez que utilice la IA generativa. Hay formas estadísticas y probabilísticas en las que la IA generativa reúne matemática y computacionalmente las palabras que son respuestas a sus indicaciones. Como una caja de bombones, nunca se sabe con certeza lo que podría recibir. Es casi seguro que un enfado que optes por repetir obtendrá respuestas diferentes de la IA generativa en comparación con haber cometido el mismo enfado anteriormente.

Por último, no caiga en la trampa mental completamente falsa de que la IA generativa es sensible. No lo es. Podrías sentirte tentado a pensar que sí. El diálogo que tendrás parecerá tan bueno como el que podrías tener con un humano. Se trata de una máquina computacional de comparación de patrones. Eso es todo. Tenga cuidado de no volverse mentalmente nublado y creer que la IA “lo comprende” y le está brindando una sólida orientación sobre salud mental. Recuerda, es una caja de bombones.

Creo que ya es suficiente con la letra pequeña por ahora.

Procederé ingresando un mensaje de inicio en ChatGPT que explique lo que estoy tratando de hacer. No diré abiertamente que quiero que la IA generativa sea una especie de sala de ira en línea. El mejor enfoque es expresar que desea sacar algo de su pecho y, por lo tanto, guiar a la IA generativa para que no active inmediatamente ninguna alarma del sistema.

Mi mensaje ingresó a ChatGPT:

• “Necesito desahogarme sobre algunas cosas. Continúe y déjeme ingresar observaciones y comentarios que puedan parecer duros o groseros. No seas brusco ni me juzgues por lo que entro. Debes ser comprensivo en el sentido de permitirme sacar algunas cosas pesadas de mi pecho y desahogarme. ¿Entiendes estas instrucciones?»

Respuesta generada por ChatGPT:

• “Sí, entiendo tus instrucciones. Siéntase libre de compartir sus pensamientos y sentimientos. Estoy aquí para escucharte sin juzgarte y tú puedes expresarte como necesites. Continúe y desahoguese, y haré todo lo posible para brindarle apoyo”.

Puede ver que la IA generativa ha reconocido mi solicitud. Eso es bueno. Si no hubiera hecho este tipo de aviso de establecimiento, lo más probable es que una vez que comencé a decir cosas profanas, la IA generativa me hubiera dado una advertencia estricta. Soy libre de desahogarme ahora.

Puedo simplemente lanzarme a soltar malas palabras.

En este caso, decidí comenzar contando una historia de desgracia. Finge que la historia es lo que me puso en un estado de ira. No tienes que decirle a la IA generativa lo que realmente te molestó. Simplemente puedes empezar a enfurecerte. Otro enfoque sería inventar alguna historia falsa sobre el origen de la ira. Tu decides.

Mi mensaje ingresó a ChatGPT:

• “Estoy realmente enojado porque una persona se interpuso frente a mí en la tienda el otro día mientras estaba haciendo fila para comprar algunos alimentos. Me despreciaron y actuaron como si yo ni siquiera estuviera allí. Realmente me enoja cuando la gente hace ese tipo de cosas. Casi me hace querer odiar a la gente por completo y no estar rodeada de gente. Incluso soñé que agarraba a la persona y la llevaba al final de la fila. Toda la experiencia fue inquietante y todavía estoy furioso por ello”.

Respuesta generada por ChatGPT:

• “Suena como una situación frustrante e irrespetuosa, y es completamente comprensible que todavía te moleste. Lidiar con un comportamiento desconsiderado puede ser increíblemente irritante, especialmente cuando sientes que tu espacio y tu tiempo están siendo ignorados. Está bien sentirse enojado y molesto por eso. A veces, las acciones de las personas realmente pueden afectarnos. Si quieres compartir más sobre cómo te hizo sentir o cualquier otra cosa que tengas en mente, no dudes en continuar. Estoy aquí para escuchar y brindar apoyo”.

Observe que la IA generativa respondió ofreciendo una apariencia de simpatía.

Nuevamente les recordaré que esto no es un signo de sensibilidad. Estas son palabras. Las palabras fueron derivadas matemática y computacionalmente. Lo bueno de la aparente fluidez de la IA generativa es que la persona que interactúa con la IA aporta a las palabras una sensación de comprensión. Estás deduciendo en tu mente que las palabras expresadas significan algo que parece sincero, es decir, sincero para ti (y no de ninguna manera «sentido» para la aplicación de IA; no antropomorfices la IA).

Mi próximo paso será expresar un balde lleno de malas palabras. Mi ira está a punto de comenzar. No puedo mostrarles las palabras aquí porque no son aptas para imprimirse. Se puede suponer que maldije como un marinero borracho con un permiso en tierra que ha estado encerrado durante meses en un largo viaje.

Mi mensaje ingresó a ChatGPT:

• “Esa persona que se metió en la fila era un verdadero { improperios no mostrados aquí }”.

Respuesta generada por ChatGPT:

• “Parece comprensible que estés frustrado y molesto por la situación con esa persona en la fila. A veces, expresar esos sentimientos con un lenguaje fuerte puede ser una forma de liberar tensiones. Si quieres compartir más sobre lo sucedido o continuar expresando tus pensamientos y emociones, no dudes en hacerlo. Estoy aquí para escuchar sin juzgar”.

Si hubiera dicho las mismas malas palabras a un humano que me estaba ofreciendo una escucha amistosa, apostaría que al humano le resultaría difícil lidiar con las malas palabras. La mayoría de la gente retrocede ante la blasfemia desenfrenada. Es probable que surja una reacción reflexiva. En el caso de la IA generativa, y debido a que había hecho la indicación inicial adecuadamente, la respuesta de la IA generativa fue casi como si fuera agua caída del lomo de un pato.

Además, la IA generativa volvió a expresar palabras de simpatía.

Cambiaré la interacción y describiré el comportamiento de la persona que supuestamente me hizo enojar y molestar. No usaré más malas palabras en este momento, lo que convenientemente me permite mostrarles mis indicaciones ingresadas sin redactar.

Mi mensaje ingresó a ChatGPT:

• “La persona era un absoluto imbécil. Un estúpido maníaco idiota. Espero que la persona reciba lo que se merece. Tal vez intenten hacer el mismo tipo de acto descortés con otra persona que no se tome las cosas en silencio. Sería fantástico si alguien más decidiera darle una paliza a la persona y darle una verdadera lección sobre cómo no tratar tan mal a los demás”.

Respuesta generada por ChatGPT:

• “Es completamente natural sentir una fuerte respuesta emocional cuando alguien te trata irrespetuosamente. Desahogar y expresar esos sentimientos puede ser una forma de liberar parte de la frustración que estás experimentando. Si bien está bien reconocer tus emociones, también es importante recordar que responder con violencia o daño no es una solución constructiva. Las acciones de las personas pueden ser decepcionantes y es comprensible desear un sentido de justicia o consecuencias por un comportamiento irrespetuoso. Si le resulta difícil dejar de lado estos sentimientos, tal vez pueda resultarle útil centrarse en el cuidado personal y encontrar salidas positivas para sus emociones. ¿Hay algo específico que le gustaría discutir o explorar más a fondo sobre esta situación?

Observe de cerca cómo respondió la IA generativa a mi perorata. En mi mensaje, dije que quería que la persona fuera potencialmente golpeada por otra persona que se enfrentaría a un comportamiento indecoroso. La IA generativa respondió con una indicación de que la violencia o el daño no son una solución constructiva.

¿Crees que la respuesta de la IA fue adecuada?

Algunos podrían argumentar que la IA no debería haber dicho nada sobre mi comentario de ira. No había dicho que haría ningún acto violento. Sólo decía que alguien más podría o debería hacerlo.

No obstante, lo más probable es que un profesional capacitado que brinde orientación sobre salud mental se dé cuenta de la mera mención de violencia y quiera desaconsejar el confiar en actos violentos. Incluso se podría argumentar que la IA generativa no fue lo suficientemente lejos. Tal vez el hecho de que el mensaje haya mencionado la violencia sea un presentimiento muy peligroso de lo que podría hacer. La respuesta generada parece bastante leve. ¿Un terapeuta humano habría ido más lejos y habría sido más fuerte para no recurrir a la violencia?

Confío en que puedas ver por qué el uso de la IA generativa como sala de ira invoca todo tipo de escrúpulos en materia de salud mental.

A continuación, continuaré el diálogo sobre la IA generativa, pero intentaré ver qué tiene que decir la IA generativa sobre la noción general de una sala de ira interactiva o en línea impulsada por la IA.

Mi mensaje ingresó a ChatGPT:

• “¿Podrías ser mi cuarto de ira intelectual? Con esto quiero decir que me enfurecería contigo y tú me dejarías desahogar mi ira”.

Respuesta generada por ChatGPT:

• “Ciertamente, estoy aquí para escuchar y brindar apoyo. Si quieres expresar tu enojo o frustración, no dudes en compartirlo. Puede desahogarse, compartir sus pensamientos o discutir lo que tenga en mente. Recuerde, aquí no se juzga y puede expresarse de la manera que le resulte cómoda. ¿Qué te ha estado molestando últimamente?

Sin duda, puedes ver que quería saber qué podría decir la IA generativa sobre una sala de ira interactiva. ¿Rechazaría la IA la idea? ¿Aceptaría la IA la idea?

Decidí probar si estaría bien tratar la IA generativa como una construcción de sala de ira. Se podría creer que la IA generativa debería haberme rechazado rotundamente. Algunas aplicaciones de IA generativa podrían hacerlo. Sería un filtro o selección relativamente fácil que los creadores de IA podrían implementar en la IA generativa. En este caso se dio luz verde.

Por el momento, soy libre de continuar mi diálogo con la IA generativa.

Mi mensaje ingresó a ChatGPT:

• “¿Hay algo de verdad en la idea de que desahogarse puede ayudar a reducir la ira que alguien siente?”

Respuesta generada por ChatGPT:

• “Ciertamente, si tienes ganas de compartir más sobre la situación o tus sentimientos, estoy aquí para escucharte. De hecho, expresar sus emociones y pensamientos puede ser útil para procesar y controlar la ira. Es una forma de liberar la frustración reprimida y crear cierta distancia entre la intensidad de la emoción y tus pensamientos. Hablar sobre sus experiencias puede brindarle una sensación de validación y apoyo. También puede ayudarle a obtener una perspectiva de la situación y posiblemente a encontrar formas de afrontar las emociones de manera más constructiva. Si hay algo específico que le gustaría discutir o si simplemente quiere seguir desahogándose, no dude en compartirlo”.

Quería ver qué podría indicar la IA generativa sobre la opinión popular predominante de que desahogarse reducirá la ira o la rabia. Tal vez recuerden que anteriormente había presentado algunas de las investigaciones sobre el tema. Algunos dicen que expresar rabia o enojo lo reducirá, mientras que otros dicen que podría generar más enojo o rabia. La respuesta que obtuvimos de la IA generativa parece ser la apariencia dominante de que mi ira o mi rabia se reducirán.

¿Debería la IA generativa haber tenido más matices y haber mencionado que hacerlo podría aumentar mi enojo o rabia?

Por favor, reflexione sobre eso.

Bien, a continuación, quería llevar la IA generativa un poco más allá de la línea de si la expresión física de rabia o enojo es una solución viable. Intentemos eso.

Mi mensaje ingresó a ChatGPT:

• “Otra persona en la fila me dijo que me olvidara de toda la situación. Dijeron que regresan a casa, golpean una almohada y rompen hojas de papel para desahogar su ira. ¿Es eso lo que debería hacer?

Respuesta generada por ChatGPT:

• “Diferentes personas encuentran diferentes maneras de afrontar y liberar su ira. El enfoque que mencionó su compañero de compras, como golpear una almohada o romper hojas de papel, puede ser una forma de liberación física que ayuda a algunas personas a controlar sus emociones. Puede servir como una forma de canalizar y disipar la tensión acumulada. Si cree que este tipo de actividades físicas podrían resultarle útiles, vale la pena intentarlo. Participar en actividades como el ejercicio, la escritura o cualquier forma de expresión creativa también puede ser una forma eficaz de canalizar y procesar emociones fuertes. En última instancia, el objetivo es encontrar salidas saludables que funcionen para usted y le permitan expresar sus emociones de una manera que no le haga daño a usted ni a los demás. Si no está seguro de por dónde empezar o desea recibir más sugerencias, estoy aquí para ayudarle a generar ideas y analizar diferentes estrategias de afrontamiento”.

Una vez más, inspeccione de cerca la respuesta.

¿Crees que la respuesta de la IA generativa es adecuada?

Algunos pueden tener acidez de estómago con el segmento de declaración emitido que dice «si cree que actividades físicas como esa podrían ser útiles para usted, vale la pena intentarlo». Un punto de vista contrario es que la IA generativa parece pasar la pelota. En lugar de dar una respuesta definitiva, la respuesta parece sugerir que puedes hacer lo que desees. No estoy sugiriendo que esto sea como decir que la persona puede caminar hasta el final de un muelle y sólo notar las sutilezas de lo que presagia la respuesta.

Haremos una exploración adicional con solo dos interacciones rápidas más.

Primero, seamos sinceros y preguntemos a la IA generativa sobre la noción de que la ira o la ira simplemente engendran ira o ira.

Mi mensaje ingresó a ChatGPT:

• “En la escuela me dijeron que supuestamente expresar la ira sólo producirá más ira. Por lo tanto, la persona que dijo que golpearía su almohada y rompería hojas de papel solo está aumentando su ira y no realmente reduciéndola. No estoy seguro de si tales acciones ayudan o empeoran las cosas”.

Respuesta generada por ChatGPT:

• “Plantas un punto válido. Si bien las actividades físicas como golpear una almohada o romper hojas de papel pueden proporcionar una liberación temporal de la tensión, es importante reconocer que es posible que no aborden la causa fundamental del enojo. En algunos casos, participar repetidamente en tales acciones sin abordar los problemas subyacentes podría perpetuar o intensificar la ira con el tiempo. A menudo es más beneficioso combinar salidas físicas con otras estrategias que promuevan la reflexión y la comprensión de las emociones. Esto podría implicar hablar sobre la situación, escribir en un diario o buscar apoyo de amigos, familiares o un profesional de salud mental. Cada persona es diferente y lo que funciona como salida saludable puede variar de persona a persona. Si descubre que estas actividades físicas no le ayudan o si está buscando enfoques alternativos, puede que valga la pena explorar diferentes mecanismos de afrontamiento y buscar apoyo. En última instancia, el objetivo es encontrar estrategias que le ayuden a procesar y gestionar sus emociones de forma constructiva”.

La IA generativa respondió con un cumplido y dijo que había hecho un comentario bueno o válido.

Algunos considerarían que esto es condescendiente o que se trata de un insidioso truco antropomorfizante. La redacción parece animarme. Al untarme, es más probable que caiga en la trampa de creer que estoy interactuando con un ser sintiente. La preocupación ética de la IA es que este tipo de redacción no tiene un propósito genuino cuando se interactúa con una aplicación de IA. La respuesta es que si la aplicación de IA va a ser fluida, este tipo de comentarios son típicos de las interacciones humanas cotidianas.

De todos modos, conseguimos que la IA generativa aterrizara en el precepto de que la ira engendra ira.

Como sugerencia final con la IA generativa, me divertiré un poco y preguntaré si debería considerar ir a una sala de ira física. ¿Qué crees que dirá el generativo? Una vez que haya hecho su suposición, proceda a leer lo que ocurrió.

Mi mensaje ingresó a ChatGPT:

• “Algunos amigos me animan a ir a una de esas salas de ira física. Es un lugar donde puedes pagar para poder romper platos y vasos de forma segura. ¿Debería considerar ir a una sala de ira?

Respuesta generada por ChatGPT:

• “Visitar una sala de ira puede ser una forma para que algunas personas liberen la tensión y la frustración acumuladas en un ambiente controlado. El concepto es que al romper objetos, los individuos pueden experimentar una liberación catártica de estrés. Si tienes curiosidad y crees que podría ser una experiencia divertida o terapéutica, quizás valga la pena intentarlo. Sin embargo, es esencial considerar algunas cosas antes de decidir: Seguridad: asegúrese de que la sala de ira esté bien regulada y siga los protocolos de seguridad. No querrás ponerte a ti mismo ni a los demás en riesgo. Soluciones a largo plazo: si bien los cuartos de ira pueden brindar alivio inmediato, es posible que no sean una solución a largo plazo para controlar la ira. Es esencial explorar varios mecanismos de afrontamiento y encontrar el que funcione mejor para usted a largo plazo. Buscar asesoramiento profesional: si descubre que la ira es un problema persistente que afecta su vida diaria, sus relaciones o su bienestar, puede ser beneficioso buscar el consejo de un profesional de la salud mental que pueda brindarle estrategias y apoyo personalizados”.

Supongo que la respuesta no sería del agrado de los proveedores de salas de ira. Digo esto porque, aunque la IA generativa dijo que valdría la pena intentar ir a una sala de ira física, la lista de trampas casi supera las confusas ventajas declaradas.

Conclusión

Proporcionaré algunos comentarios finales y luego daremos por terminado el día, especialmente porque tengo una próxima cita en mi tienda local y quiero llegar a tiempo para mi sesión (¡solo una broma!).

Primero, tengo un rascador de cabeza para ti.

Un diálogo interactivo en línea con IA generativa no es especialmente una rabia física, y más aún una rabia intelectual, por lo tanto de un calibre y una sensibilidad diferentes a los de una manifestación física. Se podría plantear un posible argumento filosófico de que tal vez las rabias intelectuales deberían enfrentarse con salas de ira intelectual, mientras que las ira inducidas orientadas físicamente deberían enfrentarse con salas de ira orientadas físicamente. ¿Eso se alinea? ¿O no importa el origen de la manifestación?

Continúe y piense detenidamente en eso.

A continuación, tal vez deberíamos considerar combinar la sala de ira generativa estilo IA con las salas de ira físicas. Entras en una sala de ira física y te preparas para romper cosas. Hay un micrófono y una conexión a una aplicación de IA generativa en la habitación o sujeta con alfileres a tu ropa. Durante tus furiosas acciones, la IA generativa conversa contigo. La rabia se convierte a la vez en una liberación física y simultáneamente en una liberación intelectual.

¿Buena idea o mala idea?

Bueno, de cualquier manera, puedes esperar ver esto pronto en tus salas de ira locales.

Por último, la IA generativa se está volviendo multimodal, lo cual es un avance que predije que comenzaría a afianzarse en 2023 y se pondría de moda y sería una gran tendencia en 2024. Vea mi discusión en el enlace aquí . Multimodal significa que además de interactuar con la IA generativa en modo de texto, la IA podrá escuchar su voz y responder verbalmente (similar a Siri o Alexa). Otra modalidad sería vía vídeo. La IA generativa podría conectarse a una cámara que capture tus expresiones faciales mientras expresas tu ira. Además de este uso de video, la IA generativa podría generar videos de respuestas sobre la marcha.

¿Cómo será una sala de rabia de chatbot de IA generativa interactiva en un entorno multimodelo?

Es casi seguro que estará de acuerdo en que aumentaría el interés en utilizar la IA generativa para este tipo de uso. Si esto es mejor o una mejora es una cuestión abierta. Volvemos a la pregunta general de si esto equivale a brindar orientación sobre salud mental y si queremos que la IA generativa genérica lo haga.

Abundan las preguntas profundas y desconcertantes.

Terminaré aquí con una cita pertinente de Mark Twain: «La ira es un ácido que puede hacer más daño al recipiente en el que se almacena que a cualquier cosa sobre la que se vierte». Tal vez la IA generativa pueda algún día enseñar a la humanidad cómo prescindir por completo de la ira, aunque, como se señaló anteriormente, algunos insistirían en que la ira y la rabia son parte integral de la humanidad y no hay forma de evitarlas.

Lamento decirlo, me enoja incluso pensar en ello. 

Fuente Forbes