Por: Germán

Las cajas negras en la inteligencia artificial se refieren a los mecanismos internos de estos sistemas que permanecen ocultos para el usuario.

Surge la cuestión de cuánto podemos conocer sobre sus métodos de aprendizaje. Los altos directivos de Google admitieron que es habitual no comprender plenamente los procesos a través de los cuales una IA alcanza un resultado.

Un ejemplo que compartieron fue cómo el programa de IA de la empresa se ajustó independientemente al recibir una pregunta formulada en el idioma bengalí, del cual no había recibido entrenamiento previamente. Durante una entrevista, el periodista de CBS cuestionó al CEO de Google, Sundar Pichai, diciendo: "¿No comprenden completamente cómo funciona y, aun así, la han puesto a disposición del público?", a lo que él respondió: "No es algo tan preocupante, ya que tampoco comprendemos del todo el funcionamiento de la mente humana". Además, Pichai comentó que actualmente más de una cuarta parte del nuevo código en Google es generado por inteligencia artificial, el cual luego es revisado y aprobado por ingenieros. Esto permite a sus ingenieros aumentar su productividad y avanzar más rápidamente.