La IA asesora, influye y decide. Pero, ¿quién es el responsable cuando algo sale mal?

Escrito por: Promove Soluções

Cuándo: 26 de mayo de 2026

La IA asesora, influye y decide. Pero, ¿quién es el responsable cuando algo sale mal?

Imagina a un adolescente que, sintiéndose solo, abre una aplicación y encuentra a alguien siempre disponible para escucharlo y validarlo. Sin juzgarlo, sin impaciencia, sin límites. El problema es que ese "alguien" es una IA diseñada para maximizar la interacción. Y el adolescente no sabe dónde termina el apoyo y dónde empieza la dependencia.

Esto no es un escenario hipotético. Es lo que está sucediendo ahora mismo, a gran escala.

Chatbots con inteligencia artificial y salud mental: las cifras que deberían preocuparnos.

Un estudio de RAND, publicado en noviembre de 2025, reveló que aproximadamente 1 de cada 8 jóvenes estadounidenses de entre 12 y 21 años ya utiliza chatbots con inteligencia artificial para obtener consejos sobre salud mental. Más del 93 % considera que los consejos recibidos son útiles.

Estas cifras revelan dos cosas a la vez: estos sistemas cubren una importante brecha en cuanto a acceso y coste, y millones de jóvenes están siendo guiados emocionalmente por sistemas que no tienen una responsabilidad definida sobre lo que sucede cuando algo sale mal.

Y muchas cosas están saliendo mal.

Cómo regulan los gobiernos la IA en todo el mundo.

El problema no radica solo en el uso excesivo, sino en la falta de controles. Es en este contexto que los reguladores de todo el mundo han pasado de la discusión a la acción.

En abril de 2026, el regulador del ciberespacio de China publicó normas para supervisar el desarrollo de los humanos digitales en línea. Estas medidas exigen un etiquetado claro, prohíben los servicios que puedan fomentar conductas adictivas en menores y obligan a los proveedores a intervenir cuando los usuarios muestren signos de angustia emocional.

Esta medida no es un caso aislado: un mes antes, el país había lanzado un nuevo plan quinquenal con la ambición declarada de adoptar la IA de forma generalizada en toda la economía, combinando una expansión acelerada con una gobernanza más estricta para garantizar la seguridad y la alineación con los valores nacionales.

El propio organismo regulador fue directo: «La gobernanza de los humanos digitales virtuales ha dejado de ser una mera cuestión de normas sectoriales. Se ha convertido en un problema científico estratégico que involucra la ciberseguridad, el interés público y el desarrollo de calidad de la economía digital». 

En Europa, el movimiento es más integral y tiene consecuencias directas para las empresas brasileñas. La Ley Europea de IA ha pasado de la teoría a la práctica: sus obligaciones para sistemas de alto riesgo entrarán en vigor en agosto de 2026.

El punto crítico para las empresas brasileñas es el alcance de la normativa. Toda organización debe cumplir con la Ley de IA si sus sistemas afectan a residentes europeos, independientemente de dónde se ejecuten los modelos. Esto incluye la IA utilizada en la selección de personal, el análisis crediticio o la atención al cliente automatizada. El incumplimiento puede costar hasta el 7 % de los ingresos globales anuales.

Muchas empresas brasileñas ya se encuentran en este ámbito sin saberlo.

Gobernanza de la IA para las empresas: ¿qué exige la norma ISO 42001?

Los casos de adolescentes que desarrollaron dependencia emocional a los chatbots no se debieron a sistemas programados para causar daño, sino a sistemas diseñados sin los controles adecuados para situaciones de vulnerabilidad.

La gobernanza es el mecanismo que cierra esta brecha.

La norma ISO 42001 describe lo que las empresas deben tener documentado y en funcionamiento: gestión de riesgos de los sistemas de IA, supervisión humana de las decisiones automatizadas, trazabilidad a lo largo de todo el ciclo de vida y control sobre los proveedores externos. Estos son precisamente los elementos que la Ley de IA exigirá como prueba de cumplimiento.

Para las empresas brasileñas que prestan servicios o pretenden prestarlos a clientes europeos, esto significa que implementar la norma ISO 42001 ahora no es una moda pasajera, sino estar preparados para un requisito que ya tiene una fecha límite establecida.

La fecha límite de agosto de 2026 no es una fecha futura. Para quienes aún no han comenzado, es ahora.


Lea también:


Promove cuenta con más de 17 años de experiencia en la mejora de procesos y apoya a las organizaciones en la implementación de la norma ISO 42001 y el cumplimiento de la LGPD (Ley General de Protección de Datos de Brasil). Si su empresa utiliza IA y aún no ha estructurado su gobernanza, este es el momento. Hable con nuestros expertos.

Si este tema te interesa, síguenos en LinkedIn para recibir más contenido como este.

Promove Soluções

Promove es reconocida por contar con consultores líderes en Brasil y a nivel mundial. Ofrecemos servicios de consultoría especializados para empresas de software, con enfoque en la implementación de una cultura ágil, el cumplimiento de las normas ISO y LGPD, y los modelos de calidad CMMI y MPS.

Comentarios

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *.

¡Sé el primero en comentar!


Artículos similares

Alto nivel de madurez de CMMI: cómo el control estadístico de procesos aporta una predictibilidad real a los proyectos de software
Gobernanza y procesos
28 de octubre de 2026

Alto nivel de madurez de CMMI: cómo el control estadístico de procesos aporta una predictibilidad real a los proyectos de software

El control estadístico de procesos es el conjunto de técnicas que miden cómo se comporta un proceso a lo largo del tiempo, separando las fluctuaciones...

Lee el artículo
CMMI AIM: el marco de referencia para la madurez en inteligencia artificial.
Inteligencia Artificial
16 de julio de 2026

CMMI AIM: el marco de referencia para la madurez en inteligencia artificial.

CMMI AIM (Artificial Intelligence Maturity) es el marco para...

Lee el artículo
La filtración de datos de iFood expuso la información de más de un millón de usuarios. La vulnerabilidad que lo permitió es más común de lo que parece.
Seguridad de la Información
19 de junio de 2026

La filtración de datos de iFood expuso la información de más de un millón de usuarios. La vulnerabilidad que lo permitió es más común de lo que parece.

La filtración de datos de iFood tardó meses en hacerse pública. El incidente ocurrió en diciembre de 2025. La confirmación llegó recién en junio de 2026, después de...
Lee el artículo