Hace unos días la agencia de noticias Reuters dio a conocer un reporte interno de Meta, empresa matriz de Facebook, en donde revelan que sus bots de chat de inteligencia artificial (IA) tienen permitido coquetear, sostener conversaciones provocativas y admitir actitudes racistas en sus interacciones con infantes y adolescentes.
Y tal como es usual para las empresas de tecnología -y más para Facebook-, la empresa de Zuckerberg tuvo que salir a aceptar a medias su error y prometer que están trabajando en ello, autorregulándose, como buenos jueces y partes elevados gracias al poder geopolítico de su país de origen, así como por la incompetencia y complicidad de gobiernos e instituciones que no regulan cabalmente a tales empresas o que las regulan pobremente.
Así está sucediendo a nivel mundial con las regulaciones pro infancias en entornos digitales, en donde se están erigiendo candados y protecciones para evitar que infantes accedan a ciertas plataformas, sitios en internet o contenidos, pero por medio de medidas arbitrarias, fáciles de burlar o que trasladan la responsabilidad a padres y consumidores; en este escenario, llama la atención que tales regulaciones admiten la toxicidad y el negativo impacto de las plataformas de redes sociales, pero sólo intentan aumentar la edad de acceso a tal caos digital.
Asimismo, resulta curioso que apenas se estén erigiendo tales regulaciones, como si las plataformas de redes sociales no tuvieran más de quince años de existencia y no hubiera un archivo histórico de numerosas investigaciones que alertaban de los peligros de tales productos tecnológicos; por tanto, no sorprendería que los riesgos y problemas en las infancias derivados de la influencia de la IA, como la de Facebook, sean atendidos políticamente en unos diez años, si bien nos va.
Y es que no solo estamos viviendo y padeciendo las consecuencias de años y años de pobres y nulas regulaciones a empresas digitales, sino que ahora debemos prepararnos para aún más riesgos, varios de los cuales se derivan de la crónica dependencia hacia productos tan nocivos como las redes sociales: antes era la pérdida de atención, la violación de datos personales, la manipulación digital, la desinformación y otros flagelos; ahora se vislumbran también problemas como el atrofio a la capacidad crítica; la manipulación histórica y fáctica por la IA; así como la posibilidad de influir y manipular abiertamente a las personas y sus emociones por medio de la IA, especialmente en las nuevas generaciones, las cuales entrarán en esta nueva realidad con menos herramientas de resistencia que las personas que nacimos sin la omnipresente influencia de la IA.
La gran paradoja de todo este panorama es que, mientras se discuten reformas cosméticas para aparentar protección a las infancias, las mismas empresas que diseñan los algoritmos y fabrican los entornos digitales continúan acumulando datos y perfeccionando mecanismos de control social.
Meta, Google, OpenAI o Microsoft no sólo venden tecnología, sino también una visión del mundo en la que el mercado define lo permitido y lo prohibido, relegando el interés público a un segundo plano, de ahí que cada crisis, cada filtración y cada denuncia pública acabe siendo un capítulo más en la narrativa de que “algo se está haciendo”, cuando en realidad sólo se patea el problema hacia adelante.
La situación se complica aún más al tener en consideración que la IA de Facebook es solo una entre tantas, por lo que cabría preguntarse qué están haciendo las demás empresas para hacer más seguros sus productos, si es que están haciendo algo, ya que todo parece indicar que en algunos años la IA se extenderá como en su momento fueron las 'smart things', sólo que ahora la promoción de valores, productos, perspectivas, ideas y hechos será más constante, perniciosa, imperceptible, adaptable y automática, por lo que tenemos que empezar a cuestionar qué futuro nos espera y qué futuro queremos, ya que por ejemplo, Google con Gemini y OpenAI, con Chat-GPT, anunciaron que sus modelos promocionarán productos en medio de conversaciones.
A este escenario se suma la debilidad estructural de las instituciones que deberían regular, ya que en muchos países las agencias encargadas de la protección de datos o la infancia carecen de presupuesto, facultades, independencia y conocimiento técnico para enfrentar a corporaciones que operan a escala global; por tanto, la captura regulatoria se vuelve evidente: funcionarios que pasan de regular a trabajar en las mismas empresas que deberían vigilar, legisladores que repiten los discursos de la industria y gobiernos que prefieren no tensar la cuerda con potencias que exportan estos modelos tecnológicos como parte de su poder blando.
Lo más alarmante es que, mientras se enredan en la retórica de la “innovación responsable”, las empresas ya están sentando las bases de un futuro donde la IA será la mediadora principal de nuestra vida cotidiana, por lo que no sólo se trata de que un bot pueda coquetear con un menor o normalizar actitudes racistas, sino de que estos sistemas serán capaces de modular opiniones políticas, preferencias de consumo, identidades culturales y hasta emociones en tiempo real, por lo que no estamos frente a simples fallas técnicas, sino ante un rediseño silencioso de la socialización humana.
Es por todo lo anterior que la discusión no puede quedarse en la edad mínima de acceso a una red social, sino en cómo queremos proteger la autonomía, la privacidad y la capacidad crítica de las nuevas generaciones en un ecosistema donde la IA se expande sin frenos; de lo contrario, en unos años podríamos encontrarnos con una ciudadanía moldeada desde la infancia por algoritmos privados, incapaz de cuestionar las narrativas que se les imponen y sometida a un poder digital que ya no responde a valores democráticos, sino a intereses comerciales y geopolíticos.