Los investigadores de ASU unen la seguridad y la IA

de Annelise Krafft | 1 de agosto de 2023 | Características, Escuelas de Fulton

Los rápidos avances en el campo de la inteligencia artificial, o IA, están demostrando que la tecnología es un activo indispensable. En el campo de la seguridad nacional, los expertos están trazando un rumbo para el impacto de la IA en nuestra estrategia de defensa colectiva.

Paulo Shakarian está a la vanguardia de este trabajo crítico utilizando su experiencia en IA simbólica y sistemas neurosimbólicos, que son formas avanzadas de tecnología de IA, para satisfacer las necesidades sofisticadas de las organizaciones de seguridad nacional.

Shakarian, profesor asociado de informática en la Escuela de Computación e Inteligencia Aumentada, parte de las Escuelas de Ingeniería Ira A. Fulton de la Universidad Estatal de Arizona, ha sido invitado a asistir a AI Forward, una serie de talleres organizados por el Centro Avanzado de Defensa de EE. UU. Agencia de Proyectos de Investigación, o DARPA.

El evento incluye dos talleres: una reunión virtual que tuvo lugar a principios de este verano y un evento presencial en Boston del 31 de julio al 2 de agosto.

Shakarian se encuentra entre los 100 asistentes que trabajan para promover la iniciativa de DARPA para explorar nuevas direcciones para la investigación de la IA que impacten una amplia gama de tareas relacionadas con la defensa, incluidos sistemas autónomos, plataformas de inteligencia, planificación militar, análisis de big data y visión por computadora.

En el taller de Boston, Shakarian estará acompañado por Nakul Gopalan, profesor asistente de ciencias de la computación, quien también fue seleccionado para asistir al evento para explorar cómo su investigación en comunicación entre humanos y robots podría ayudar a lograr los objetivos de DARPA.

Además de su participación en AI Forward, Shakarian se está preparando para publicar un nuevo libro en septiembre de 2023. El libro, titulado “Razonamiento y aprendizaje neurosimbólico”, explorará los últimos cinco años de investigación en IA neurosimbólica y ayudará a los lectores. comprender los avances recientes en el campo.

Mientras Shakarian y Gopalan se preparaban para los talleres, se tomaron un momento para compartir su experiencia en investigación y sus ideas sobre el panorama actual de la IA.

Explique sus áreas de investigación. ¿En qué temas te enfocas?

Paulo Shakarian: Mi enfoque principal es la IA simbólica y los sistemas neurosimbólicos. Para entenderlas, es importante hablar de cómo es la IA hoy en día, principalmente como redes neuronales de aprendizaje profundo, que han supuesto una maravillosa revolución en la tecnología durante la última década. Si analizamos los problemas específicamente relevantes para el Departamento de Defensa de EE. UU., o DoD, estas tecnologías de inteligencia artificial no estaban funcionando bien. Hay varios desafíos, incluidos los modelos de caja negra y su explicabilidad, los sistemas que no son inherentemente modulares porque están entrenados de un extremo a otro y la aplicación de restricciones para ayudar a evitar colisiones e interferencias cuando varias aeronaves comparten el mismo espacio aéreo. Con las redes neuronales, no existe una forma inherente en el sistema de imponer restricciones. La IA simbólica existe desde hace más tiempo que las redes neuronales, pero no se basa en datos, mientras que las redes neuronales sí lo hacen y pueden aprender símbolos y repetirlos. Tradicionalmente, las capacidades de la IA simbólica no se han demostrado ni de lejos la capacidad de aprendizaje de una red neuronal, pero todos los problemas que he mencionado son deficiencias del aprendizaje profundo que la IA simbólica puede abordar. Cuando se empieza a abordar estos casos de uso que tienen importantes requisitos de seguridad, como en defensa, aeroespacial y conducción autónoma, existe el deseo de aprovechar una gran cantidad de datos y al mismo tiempo tener en cuenta las limitaciones de seguridad, la modularidad y la explicabilidad. El estudio de la IA neurosimbólica utiliza muchos datos teniendo en cuenta esos otros parámetros.

Nakuul Gopalan: Me enfoco en el área de fundamento, planificación y aprendizaje del lenguaje de usuarios humanos para aplicaciones robóticas. Intento utilizar demostraciones que brindan los humanos para enseñar ideas simbólicas a los sistemas de inteligencia artificial, como colores, formas, objetos y verbos, y luego asignar el lenguaje a estos conceptos simbólicos. En ese sentido, también desarrollo enfoques neurosimbólicos para la enseñanza de sistemas de IA. Además, trabajo en el campo del aprendizaje de robots, que implica implementar políticas de aprendizaje para ayudar a los robots a descubrir cómo resolver tareas específicas. Las tareas pueden variar desde insertar y apretar pernos en las alas de un avión hasta comprender cómo modelar un objeto como un microondas para que un robot pueda calentar alimentos. El desarrollo de herramientas en estas grandes áreas problemáticas del aprendizaje automático y la inteligencia artificial puede permitir que los robots resuelvan problemas con usuarios humanos.

Háblame de tus laboratorios de investigación. ¿En qué investigación estás trabajando actualmente?

PD: El proyecto principal en el que he estado trabajando en mi laboratorio, Lab V2, es un paquete de software al que llamamos PyReason. Uno de los resultados prácticos de la revolución de las redes neuronales ha sido un software realmente excelente como PyTorch y TensorFlow, que agilizan gran parte del trabajo de creación de redes neuronales. Google y Meta pusieron un esfuerzo considerable en estos programas y los hicieron gratuitos para todos. Hemos notado en la literatura neurosimbólica que todos están reinventando la rueda, en cierto sentido, creando un nuevo subconjunto de lógica para sus propósitos particulares. Gran parte de este trabajo ya cuenta con una gran cantidad de literatura escrita anteriormente. Al crear PyReason, mis colaboradores y yo queríamos crear la mejor plataforma lógica posible para trabajar con sistemas de aprendizaje automático. Tenemos alrededor de tres o cuatro subvenciones activas y la gente lo ha estado descargando, por lo que ha sido nuestro trabajo principal. Queríamos crear un software muy potente para permitir esta investigación, de modo que no sea necesario volver a implementar viejas lógicas. De esta manera, todo está ahí, es maduro y relativamente libre de errores.

DE: Mi laboratorio, Logos Robotics Lab, se centra en enseñar a los robots un enfoque humano para aprender y resolver tareas. También trabajamos en representaciones para la resolución de tareas para comprender cómo los robots pueden modelar objetos para que puedan resolver las tareas que necesitamos que resuelvan los robots. Como aprender a operar un microondas, por ejemplo, y entender cómo abrir su puerta y poner un objeto dentro. Utilizamos técnicas de aprendizaje automático para descubrir el comportamiento de los robots y nos centramos en enseñar tareas a los robots a usuarios humanos para probar métodos eficientes de aprendizaje automático. Nuestro equipo aprende sobre representaciones de objetos, como modelar microondas, tostadoras y alicates, para comprender cómo los robots pueden usarlos. Un concepto en el que trabajamos es la sensación táctil, que ayuda a reconocer objetos y utilizarlos para resolver tareas mediante el tacto. Hacemos todo esto con un enfoque en integrar estos enfoques con casos de uso de compañeros de trabajo humanos para que podamos demostrar la utilidad de estos sistemas de aprendizaje en presencia de una persona que trabaja junto al robot. Nuestro trabajo aborda problemas prácticos en la fabricación y problemas socialmente relevantes, como la introducción de robots en ámbitos como la vida asistida y la enfermería.

¿Qué le atrajo inicialmente a la ingeniería y le impulsó a buscar trabajo en este campo?

PD: Tuve un viaje interesante para llegar a este punto. Nada más terminar la escuela secundaria, fui a la Academia Militar de los Estados Unidos en West Point, me gradué, me convertí en oficial militar y estuve en la 1.ª División Blindada del Ejército de los Estados Unidos. Tuve dos períodos de combate en Irak, y después de mi segundo período de combate, mi unidad me envió a una asignación temporal de tres meses a DARPA como asesor porque tenía experiencia en combate y un título técnico: una licenciatura en informática. En DARPA, aprendí cómo algunos de los mejores científicos de nuestra nación estaban aplicando la IA para resolver problemas de defensa relevantes y me interesé mucho tanto en la inteligencia como en la autonomía. Al recibir capacitación en inteligencia militar, trabajé en unidades de infantería y blindados para comprender cómo los recursos de inteligencia apoyaban la lucha, y vi que el trabajo que se estaba realizando en DARPA estaba a años luz de lo que yo estaba haciendo manualmente. Después de eso, solicité un programa especial para volver a la escuela de posgrado y obtuve mi doctorado, centrándome en la IA. Como parte de ese programa, también enseñé durante algunos años en West Point. Después de completar mi servicio militar, me uní a la facultad de ASU en 2014.

DE: He sentido curiosidad por el aprendizaje de sistemas relacionados con aplicaciones de control y robótica desde mis estudios universitarios. Me impresionó la capacidad de estos sistemas para adaptarse a las necesidades de un usuario humano. En cuanto a lo que me atrajo de la ingeniería, siempre me fascinaron las matemáticas e incluso competí en algunos concursos de matemáticas en la escuela secundaria. Para mí, la carrera de ingeniería fue una forma de perseguir este interés en las matemáticas para aplicaciones prácticas. Una razón común para trabajar en la investigación en informática es su similitud con el campo de las matemáticas. El campo de la informática puede resolver problemas teóricos abiertos y al mismo tiempo producir aplicaciones prácticas de esta investigación teórica. Nuestro trabajo en la Escuela de Computación e Inteligencia Aumentada encarna estos ideales.

Hay tanta histeria y ruido en los medios sobre la IA. Hablando como investigadores profesionales en este campo, ¿estamos cerca de alguna aplicación realmente útil que cambiará las reglas del juego para la vida en diversas industrias?

PD: Sí, creo que sí. Ya hemos visto lo que hicieron las redes neuronales convolucionales para el reconocimiento de imágenes y cómo se ha integrado en todo, desde teléfonos hasta cámaras de seguridad y más. Vamos a ver un fenómeno muy similar con modelos de lenguaje grandes. Los modelos tienen problemas, y el principal es un concepto llamado alucinaciones, que significa que los modelos dan respuestas o información incorrecta. Tampoco podemos tener garantías sólidas de seguridad con modelos de lenguaje grandes si no se puede explicar de dónde provienen los resultados, que es el mismo problema con cualquier otro modelo neuronal. Empresas como Google y OpenAI están realizando muchas pruebas para mitigar estos posibles problemas que podrían surgir, pero no hay forma de que puedan probar todos los casos posibles. Dicho esto, espero ver cosas como la ventana de contexto, o la cantidad de datos que puede incluir en un mensaje, expandirse con grandes modelos de lenguaje durante el próximo año. Eso ayudará a mejorar tanto el entrenamiento como el uso de estos modelos. El año pasado se introdujeron muchas técnicas que mejorarán significativamente la precisión en los casos de uso cotidianos y creo que el público verá una tasa de error muy baja. Los modelos de lenguaje grandes son cruciales para generar código informático, y ese probablemente sea el resultado más impactante y revolucionario. Si podemos escribir código más rápido, inherentemente podremos innovar más rápido. Los grandes modelos lingüísticos ayudarán a los investigadores a seguir actuando como motores de innovación, especialmente aquí en Estados Unidos, donde estas herramientas están fácilmente disponibles.

“Los modelos de lenguaje grandes son cruciales para generar código informático, y ese probablemente sea el resultado más impactante y revolucionario. Si podemos escribir código más rápido, inherentemente podremos innovar más rápido”.

DE: El progreso en el aprendizaje automático ha sido meteórico. Hemos visto el surgimiento de modelos generativos para el lenguaje, las imágenes, los vídeos y la música en los últimos años. Estos modelos ya tienen consecuencias económicas, que estamos viendo en industrias como el periodismo, la escritura, la ingeniería de software, el diseño gráfico, el derecho y las finanzas. Es posible que algún día veamos menos trabajos de este tipo a medida que aumente nuestra eficiencia en la búsqueda de este avance, pero todavía hay dudas sobre la precisión y la moralidad del uso de dicha tecnología y sus impactos sociales y económicos duraderos. Hay una comprensión incipiente del mundo físico en estos sistemas, pero aún están lejos de ser eficientes cuando colaboran con usuarios humanos. Creo que esta tecnología cambiará la forma en que funcionamos en la sociedad, al igual que la introducción de las computadoras cambió el tipo de trabajos a los que aspira la gente, pero los investigadores todavía se centran en desarrollar el objetivo de la inteligencia artificial general, que es la IA que comprende el mundo físico y funciona de forma independiente. en eso. Todavía estamos lejos de un sistema así, aunque hemos desarrollado herramientas impresionantes a lo largo del camino.

¿Cree que las aplicaciones de la IA en la seguridad nacional llegarán algún día a un punto en el que el público vea esta tecnología en uso, como los vehículos autónomos que se prueban en las carreteras de Phoenix y sus alrededores, o cree que permanecerá detrás de escena?

PD: Cuando dirigí mi nueva empresa, aprendí que era importante que la IA estuviera integrada en una solución que todos entendieran a diario. Incluso con los vehículos autónomos, la única diferencia es que no hay ningún conductor en el asiento del conductor. El objetivo es conseguir que estos vehículos se comporten como coches normales. Pero la gran excepción a todo esto es ChatGPT, que ha puesto al mundo patas arriba. Incluso con estas tecnologías, tengo algunas dudas de que nuestra interfaz actual sea la forma en que interactuemos con estos tipos de IA en el futuro, y la gente de OpenAI está de acuerdo.

Veo un mayor desarrollo en el futuro para integrar mejor tecnología como ChatGPT en un flujo de trabajo normal. Todos tenemos herramientas que utilizamos para realizar el trabajo y siempre hay pequeños costos asociados. Con ChatGPT, existe el costo de pasar a una nueva ventana, iniciar sesión en el programa y esperar a que responda. Si lo está utilizando para redactar un correo electrónico que tiene solo unas pocas oraciones, puede que no valga la pena y entonces no lo considera una herramienta para generar impacto con tanta frecuencia como debería. Si ChatGPT estuviera más integrado en los procesos, creo que su uso sería diferente. Es una tecnología tan convincente y creo que es por eso que pudieron lanzarla en este formato de chat externo tan simple.

DE: Utilizamos una cantidad importante de tecnología desarrollada para la seguridad nacional con fines públicos, en aplicaciones desde Internet hasta dispositivos GPS. A medida que la tecnología se vuelve más accesible, se sigue desclasificando y utilizando en entornos públicos. Espero que suceda lo mismo con la mayoría de los productos de investigación desarrollados por DARPA.

Compartir: