Q&A  | 

¿Se están quedando las universidades fuera de la investigación en IA? Por Oriol Vinyals, investigador jefe de Google DeepMind.

"'Attention' surgió de MILA, un laboratorio universitario que no podía competir en recursos con el método que propusimos en Google (seq2seq), y ahora está en todas partes".

Tags: 'Aprendizaje automático' 'Deep learning' 'Google' 'Google DeepMind' 'Machine learning' 'Oriol Vinyals'

SHARE

Oriol Vinyals es investigador jefe en Google DeepMind y una de las figuras más destacadas del deep learning (una sub rama del aprendizaje automático que se centra en las redes neuronales) en todo el mundo. Junto con su equipo, Vinyals desarrolló una tecnología que ahora se usa en la respuesta inteligente de Gmail y ha realizado contribuciones decisivas para los sistemas de traducción comercial.

¿Cuáles son los más importantes avances en inteligencia artificial (IA) de los últimos tiempos?

Los avances en IA (o específicamente aprendizaje automático) pueden clasificarse en:

Hardware. Las GPU (generalmente utilizadas para videojuegos) se han hecho fundamentales para acelerar los cálculos de los modelos de deep learning. Hoy en día existe un hardware específico de aprendizaje profundo (por ejemplo, TPU) y se están creando muchas startups en torno al hardware debido a su importancia.
Software. Muchas instituciones y empresas han comenzado a desarrollar herramientas para el deep learning, pero, lo que es más importante, lo han hecho en código abierto. Ejemplos notables incluyen TensorFlow de Google o PyTorch de Facebook. Esto permite que cualquiera con cierta experiencia en programación pueda participar y contribuir al campo del aprendizaje automático y gracias a esto han surgido muchos trabajos interesantes.
-Datos. Todos nuestros algoritmos están entrenados para «imitar» datasets de ejemplos etiquetados y han surgido muchas más fuentes de datos. Ejemplos notables incluyen ImageNet (imágenes etiquetadas de, por ejemplo, perros, gatos, automóviles) o muchos datasets de traducción automática (donde obtienes un par de oraciones en dos idiomas diferentes pero con el mismo significado).
Algoritmos. Aunque la mayoría de los algoritmos existen desde hace décadas (redes neuronales, descenso de gradiente), han aumentado y se han agregado muchos más componentes a los modelos y aplicaciones en funcionamiento hoy en día gracias al aprendizaje automático .

¿Estamos cerca de la súper inteligencia artificial?

En mi opinión, estamos bastante lejos de eso. Ni siquiera su significado está claro. Creo que se necesitarán muchos más avances para poder acercarnos a nuestras increíbles capacidades de aprendizaje.

Según Max Tegmark, uno de los fundadores de Future of Life , “debemos asegurarnos de que las máquinas aprendan los objetivos globales de la humanidad, que los hagan suyos y los conserven conforme se hacen más inteligentes, y hay que empezar ya”. ¿Cuál es su opinión sobre esto? ¿Cree también que de lo contrario nos arriesgamos a acabar viviendo bajo la dictadura de la súper inteligencia artificial?

Existen muchos peligros relacionados con ello y debates en nuestra comunidad y agradezco que se estén desarrollando talleres al respecto en las principales conferencias en nuestro campo.

Quizás en 2015 no se hablaba demasiado del tema, pero hoy en día está siendo estudiado e investigado a fondo por muchas personas y organizaciones (como Future of Life) de las que forman parte muchos de los grandes actores, todo lo cual es tranquilizador.

Al igual que sucede con cualquier tecnología poderosa, en este caso las implicaciones sociales y la legislación deberían seguir el ritmo de la innovación y en este frente estoy seguro de que vamos por el buen camino y estamos trabajando correctamente para minimizar estos riesgos.

Hay otros temas que son aún más importantes que están investigando también muchos de mis colegas. Algo que me ha llamado la atención recientemente es el sesgo en los datasets que utilizamos en nuestro trabajo. Es difícil resumir todo lo que ello implica en esta respuesta, pero recomiendo comenzar con los tutoriales de Emily Denton sobre este asunto.

¿Cuál es el papel de los video juegos en la inteligencia artificial? ¿Puede darnos algún ejemplo de las aplicaciones sociales del gaming??

Los video juegos han tenido un papel importante en el desarrollo del deep learning: en lugar de usar un conjunto de datos para aprender cómo los humanos etiquetan ejemplos e imitarlos, los modelos trabajan en un entorno en el que un agente trata de alcanzar una meta.

En DeepMind nuestros avances permitieron en primer lugar que nuestros algoritmos dominaran los juegos ATARI y que acabaran dominando en AlphaStar alcanzando el nivel de Grandmaster en StarCraft2, que es un proyecto que dirigí y que fue muy divertido.

En cuanto a lo que la IA puede hacer por los juegos, éste es un campo que no hemos explorado tanto pero en el que las compañías de videojuegos están invirtiendo cada vez (y esta es la razón por la cual Blizzard se asoció con nosotros en AlphaStar). ¡Estoy ansioso por ver qué resulta de todo ello!

Un reciente artículo de The New York Times defendía que la investigación de Inteligencia Artificial "cada vez es más cara, requiere cálculos cada vez más complejos realizados por gigantescos centros de datos lo cual reduce enormemente el número de personas con acceso a la potencia computacional necesaria para desarrollar la tecnología detrás de los productos del futuro". ¿Podría esto llevarnos a un mundo de poseídos -las big tech- y desposeídos? ¿Cuál es su opinión sobre esto y cómo se puede democratizar?

En primer lugar, no todos los avances requieren gran potencia computacional. De hecho, uno de los avances clave en los últimos años llamado Attention surgió de MILA, un laboratorio universitario que no podía competir en términos de recursos con el método que propusimos en Google, llamado seq2seq, y ahora en todas partes.

Pensar de manera independiente ayuda a desarrollar nuevas aplicaciones y avances; esto último también está muy relacionado con lo que mencionaba más arriba sobre el código abierto y un acceso democrático a las herramientas para el aprendizaje automático.

También he conocido a grandes investigadores en partes menos desarrolladas del mundo donde se ha aplicado el aprendizaje automático para favorecer las cosechas etc., lo cual es bastante increíble y sorprendente para mí.

Dicho esto, hay tipos de investigación que solo pueden llevarse a cabo utilizando las más grandes super computadoras. Esto no es diferente del CERN (European Organization for Nuclear Research) donde una pieza única de hardware permite a los físicos responder a preguntas sobre partículas que de otro modo sería imposible.

Quizás podamos aprender de ese modelo de investigación, pero las empresas privadas ya han dado buenos pasos para compartir sus recursos con las universidades y estoy muy contento de ver a Google y otros a la vanguardia de ello.

Según un informe del Allen Institute for Artificial Intelligence, los cálculos necesarios para “ser líder en tareas de inteligencia artificial como comprensión del lenguaje, juegos y razonamiento básico se ha multiplicado por 300.000 en los últimos seis años”. ¿Es viable tal consumo de recursos computacionales y energéticos?

No conozco las cifras, pero afortunadamente el rendimiento por vatio también está aumentando exponencialmente, así que esperemos que el desarrollo del hardware también avance al mismo ritmo. De hecho, ¡creo que ya existen investigaciones sobre cómo la IA puede ayudar al diseño del hardware!

¿Cuáles pueden ser las principales contribuciones de la Inteligencia Artificial a la sociedad a corto plazo?

Dada la situación actual en la que se encuentra el mundo, cada vez estoy más convencido de que la salud es un área en la que la IA tiene el potencial de permitir una mejor atención para todos (especialmente aquellos que no pueden pagar la atención médica básica).

Esto, junto con posibles avances científicos acelerados e impulsados por IA (como el trabajo sobre cómo se pliegan las proteínas llevado a cabo por DeepMind en el proyecto AlphaFold y otros lugares) hacen que esté realmente entusiasmado sobre las aportaciones positivas que la IA puede tener en los próximos años.