Desde enero de 2026, California obliga por ley a los chatbots a recordar a sus usuarios periódicamente que son inteligencias artificiales. ¿De verdad hace falta una ley para eso? La psicología dice que sí.

Habitualmente usamos, sin pensar, la función psíquica del “principio de realidad”. Esta es la capacidad de distinguir entre lo que deseamos o imaginamos y lo que existe realmente. Este se opone al principio de placer, que busca la satisfacción inmediata sin detenerse a comprobar si aquello que desea es real. El principio de realidad necesita pistas para trabajar: torpezas, respuestas extrañas, cierta lentitud, algo que delate a la máquina. Cuando un bot es lo bastante convincente, esas pistas desaparecen y gana terreno el deseo de sentirse acompañado, escuchado, querido, de forma que olvidamos que no estamos hablando con alguien real.

Lo confieso: llevo tiempo intentando prohibirme dar las gracias a la IA y no lo consigo del todo. Si a mí me cuesta no tratarla como a una persona, imaginemos a quien ni siquiera se plantea la cuestión. Así es como algunos usuarios llegan a percibir una personalidad real detrás del bot o describen como vivo a uno que imita a un familiar fallecido (los llamados deathbots). Lo que en los titulares parece extravagante deja de sonar a ciencia ficción cuando se entiende el mecanismo.

Pensemos en un adolescente que está construyendo su identidad, preguntándose quién soy y hacia dónde voy, cada vez más acompañado por una IA. ¿La vive como un amigo, como un espejo o como un oráculo al que consultar? Cuando la voz que más responde no es humana, el riesgo de confusión sobre la naturaleza de esa relación deja de ser anecdótico.

Ahí entra la SB 243 californiana: exige protocolos ante situaciones de ideación suicida o autolesión, recordatorios de descanso cada tres horas para los menores y medidas frente al contenido sexual explícito.

Europa avanza en la misma dirección. Nueva York ha ido más allá: el alcalde Mamdani ha decretado una moratoria de un año sobre el uso de IA generativa en las escuelas públicas.

Puede sonar a Blade Runner. Pero cuanto más avanza la tecnología conversacional, menos ficción hay en el problema y más urgencia adquiere. Recordarle a un usuario, sobre todo si es menor, que está hablando con una máquina no es infantilizarlo: es proteger la única herramienta que tenemos para no confundir una compañía simulada con una compañía real.