Los altos ejecutivos de Google, incluyendo a su CEO Sundar Pichai, han declarado en una entrevista con CBS que no comprenden del todo cómo funciona su inteligencia artificial, Bard. Los directivos calificaron su experiencia usando esta tecnología como "inquietante" debido a la gran capacidad de desarrollo que está demostrando. La inteligencia artificial ha conseguido comprender un idioma sin haber sido entrenada para conocerlo.
En la entrevista, Sissie Hsiao, vicepresidenta de Google, y James Manyika, vicepresidente Senior, explicaron que Bard no busca resultados en Internet como lo hace el buscador de Google, sino que genera respuestas de forma autónoma a través de un programa en gran parte autodidacta.
Uno de los fenómenos más intrigantes que mencionaron son las "propiedades emergentes", habilidades que las 'IAs' aprenden sin haber sido entrenadas específicamente para ello. Un ejemplo del nivel que está logrando fue cuando la inteligencia artificial de Google aprendió a traducir bengalí después de recibir muy pocas indicaciones en ese idioma, a pesar de no haber sido entrenada para conocerlo.
La tecnología de la IA continúa sorprendiendo
Pichai se refirió a un concepto conocido en la investigación tecnológica: las "cajas negras". Estos son sucesos que los ingenieros son incapaces de explicar, como el aprendizaje inesperado del bengalí por parte de Bard. No se puede determinar con certeza por qué la 'IA' hizo algo o por qué hubo un error, aunque la capacidad para entender estos fenómenos mejora con el tiempo.
Como ha publicado la revista Scientific American, las "cajas negras" hacen referencia a sistemas cuyo funcionamiento interno es invisible para el usuario. Se puede proporcionar información y obtener respuestas, pero no se puede examinar el código o la lógica que produjo ese resultado. Esta falta de transparencia genera preocupaciones sobre la fiabilidad y seguridad de estas tecnologías, especialmente cuando se aplican en ámbitos sensibles como la salud, la justicia o las finanzas.
El desafío de controlar y regular las IAs avanzadas
El rápido avance de la inteligencia artificial plantea importantes desafíos para las empresas tecnológicas y la sociedad en general. Por un lado, existe una gran presión competitiva para desarrollar y lanzar al mercado IAs cada vez más potentes y versátiles. Pero por otro, surgen interrogantes sobre cómo asegurar que estas tecnologías sean seguras, éticas y beneficiosas para la humanidad.
