Melanie Mitchell. Inteligencia artificial.

Capitán Swing, 2024. 370 páginas.
Tit. or. Artificial intelligence. Trad. María Luisa Rodríguez Tapia.

Repaso de la historia de la inteligencia artificial desde sus orígenes en los años 50 hasta los últimos avances en el momento que se escribió el libro (2020). A través de los diferentes aspectos de lo que se ha conseguido hasta ahora, desde reconocer caracteres, rostros y objetos, hasta jugar y ser invencibles en cualquier juego existente. Y pensando en lo que nos pueda deparar el futuro.

La verdad es que no esperaba mucho de este libro pero la realidad es que está muy bien. La autora conoce de primera mano muchos de los avances, ha trabajado para Douglas R. Hofstadter (autor del genial Gödel, Escher, Bach) y plantea muy bien todos los temas, que explica de una manera clara para los legos y dando algunos detalles técnicos para los que estén más avanzados.

El único problema es que no podía imaginar la autora que apenas 4 años después los modelos transformers (dall-e, chatgpt) iban a revolucionar nuestra imagen de la IA y provocar una nueva revolución, y es que es muy difícil hacer predicciones en este tema, las cosas pueden quedar estáticas durante años o acelerarse en meses.

En cualquier caso un excelente libro para acercarse a la realidad de la inteligencia artificial.

Muy bueno.

Engañar a Bas irades neuronales profundas
Hay otra dimensión más en la cuestión de la fiabilidad de la IA: los investigadores han descubierto que para los humanos es asombrosamente fácil engañar a las redes neuronales profundas para que cometan errores. Es decir, si queremos engañar deliberadamente a un sistema de este tipo, resulta que hay una terrible cantidad de maneras de hacerlo.

Engañar a los sistemas de inteligencia artificial no es nuevo. Quienes llenan de spam nuestros correos electrónicos, por ejemplo, llevan décadas en una carrera armamentística con los programas centrados en su detección. Pero los ataques a los que parecen ser vulnerables los sistemas de aprendizaje profundo son al mismo tiempo más sutiles y más preocupantes.

¿Recuerdan AlexNet, de la que hablé en el capítulo 5? Era la red neuronal convolucional que ganó el concurso de ImageNet de 2012 e inició el dominio de las ConvNet en gran parte del mundo de la LA actual. Recordarán que la precisión de AlexNet (con las cinco mejores conjeturas) en ImageNet fue del 85 por ciento, con lo que eliminó a todos los demás competidores y asombró al mundo de la visión por ordenador. Sin embargo, un año después de la victoria de AlexNet, apareció un artículo de investigación escrito por Chris-tian Szegedy, de Google, y varios otros, con el título engañosamente suave de «Intrigantes propiedades de las redes neuronales».20 Una de las «propiedades intrigantes» descritas en el ensayo era que resultaba fácil engañar a AlexNet.

En concreto, los autores del artículo habían descubierto que podían coger una foto de ImageNet que AlexNet había clasificado acertadamente y con gran seguridad (por ejemplo, «autobús escolar») y distorsionarla con cambios muy pequeños y específicos en sus píxeles, de modo que la imagen distorsionada les pareciera completamente igual a los humanos, pero AlexNet ahora la clasificara con un grado de seguridad muy alto como algo completamente diferente (por ejemplo, «avestruz»). A la imagen distorsionada le dieron el nombre de «ejemplo antagónico». La figura 18 muestra varios ejemplos de imágenes originales y sus gemelas antagónicas. ¿No notan la diferencia? ¡Enhorabuena! Se ve que son humanos.

Szegedy y sus colaboradores crearon un programa informático que, con cualquier foto de ImageNet correctamente clasificada por AlexNet, podía encontrar cambios específicos en la foto para crear un nuevo ejemplo antagónico que a los humanos les pareciera inalterado pero que hiciera que AlexNet asignara una categoría incorrecta con la máxima seguridad.

Es importante señalar que Szegedy y sus colaboradores vieron que esta vulnerabilidad a los ejemplos antagónicos no era exclusiva de AlexNet, demostrando que otras ConvNet —con diferentes arquitecturas, hiperparámetros y conjuntos de entrenamiento— presentaban vulnerabilidades similares.

The post Melanie Mitchell. Inteligencia artificial. first appeared on Cuchitril Literario.