Tolerancia de Error y Predicción - Machine Intelligence Research Institute (MIRI)

Tolerancia de Error

Una de sus investigaciones que más me llamó la atención fue la de corregibilidad. Esto es el hecho de que podamos hacerle entender a un IA avanzado que tiene que entender que hay que modificar y ajustar sus objetivos y metas.

En este paper discuten que se consideran una IA corregible y como lograr la corregibilidad con diferentes estrategias. Por ejemplo hablan de el “Problema del Apagado”, hipotéticamente se discute que si se le da un botón de apagado a la IA para “corregir” este agente sería capaz de discutir o razonar a su dueño que no es necesario corregirlo, manipulandolo y no logrando la corrección del IA, este podría decir que hay un gran incentivo en no apagarlo porque podría lograr un mejor resultado de X utilidad o valor. Un IA simple se dejaría apagar pero uno más autónomo y complejo llegaría hasta la prevención física para no apagarse y eso sería fatal si llegara hasta ese punto. Y por último se da un modelo de apagado como estándar para una maquina IA considerada “corregible”.

Predicción

Otro estudio bien importante tiene que ver con nuestra capacidad de que tanto podemos predecir o no predecir sobre el futuro de la IA.

En este tipo de investigaciones MIRI ha descubierto que más veces que no los expertos y no expertos se han equivocado sobre la IA en los próximos 15 a 25 años y que normalmente las predicciones hechas por expertos se contradicen, junto con una base de datos de más de 95 predicciones que se han hecho sobre la IA.

Para terminar de asustarnos, MIRI ha puesto un paper muy interesante llamado “Intelligence Explosion Microeconomics”, que habla sobre la necesidad de tener investigadores con experiencia en matemáticas económicas, experiencia en estadística predictiva y aprendizaje de máquinas. Esto lo justifican pensando en una premisa simple: “¿Qué pasa si creamos una máquina que puede crear una mejor versión de sí misma y está mejor que ella misma?”.

Esto es muy importante ya ha esta curva inteligencia sería conocida como la explosión de la inteligente, lo cual ellos creen que sería “el evento más importante en la historia de la tierra, ósea crear “vida inteligente”, el evento más importante del futuro de nuestro universo”.

Machine Intelligence Research Institute (MIRI)

MIRI es una organización investigativa sin fines de lucro estudiando la base matemática del comportamiento inteligente. Su misión es desarrollar herramientas formales para el diseño nítido y análisis de sistemas de IA para uso general, con el propósito de hacerlos sistemas más seguros y confiables cuando vayan a ser desarrollados.

Filosóficamente hablando o hablando del futuro, los investigadores en MIRI son relativamente escépticos de cómo el estado del arte en la IA cambiará en la siguientes décadas y no saben cuan cerca están para que haya IA más inteligente que humanos. Sin embargo predicen que es posible lo siguiente:

• Se va a confiar más en los sistemas de IA con tareas complejas y decisiones a largo plazo.
• Metas realísticas y ambientes para sistemas de razonamiento general van a ser muy complejos para que los programadores se les especifiquen directamente.
• Los sistemas que tengan modelos pobres de su entorno harán daños significativos.

Para resumir lo que piensa MIRI, Stuart Rusell, un asesor de investigación para MIRI dice que:

“Nuestra meta es crear máquinas que puedan tomar mejores decisiones. Y ese es el problema, que si vamos a crear una maquina súper inteligente, tenemos que darle algo que uno quiera que haga. El peligro es que le des algo que en verdad no es lo que quieres que haga.”

De lo que podemos comprender es que MIRI piensa en el futuro de IA sin importar qué tan avanzada sea, ellos buscan establecer un estándar de cómo una maquina debería llevar a cabo su inferencia científica. Ellos están interesados en que los agentes de IA hagan lo que sus programadores las mandaron a hacer específicamente para un impacto positivo. Ellos esperan que las máquinas inteligentes avanzadas se comporten como fue planeado en primer lugar en ausencia de supervisión humana.

Swarm Intelligence: Crowd Dynamics - Carleton University y Tony White

Uno de sus proyectos investiga las dinámicas de las multitudes en lugares limitados o cerrados. Las técnicas que utiliza incluyen modelos basados en agentes híbridos, el cual es un modelo computacional utilizado para simular acciones e interacciones de agentes autónomos. La meta de este proyecto es desarrollar técnicas de comunicación basadas en intercambios de información que resultan en movimientos más seguros para un gran grupo de personas en lugares cerrados.

Al final de esta investigación realizada por unos de sus estudiantes Henein, se concluye que el despliegue de información espacial sobre el área de donde se encuentran los agentes es crucial para la seguridad y salud de todos las personas involucradas. Se propone brevemente un modelo o sistema donde por medio de un sensor que accione al instante información sobre el área para que se pueda evacuar segura y óptimamente, aunque también se recalca en gran manera que la parte local entre cada persona también es muy importante para que no haya problemas.

Swarm Intelligence: Ant Systems - Carleton University y Tony White

Este proyecto propone e investiga las mejoras para los sistemas basados en comportamiento de las hormigas. Se le añaden extensiones a los algoritmos de colonia de hormigas optimizado (ACO). Tiene aplicaciones y teoría de sistemas de hormiga. Las metas de este proyecto son el desarrollo de algoritmos de búsqueda para dominios específicos con una potencial aplicación en swarm robotics.

De la misma manera como las hormigas trabajan juntas las idea es encontrar una manera de poder idear un algoritmo adaptable basado en swarm intelligence que pueda alocar recursos en entornos dinámicos.

Swarm Intelligence: Control - Carleton University y Tony White

Este proyecto involucra el uso de técnicas sobre swarm intelligence para poder controlar redes como el tráfico vehicular. En esta investigación se dice que aunque se han aplicado sistemas inteligentes para poder ayudar el flujo del tráfico, estos han sido evaluados utilizando modelos de tráficos no realisticos.

En este proyecto se propone un sistemas adaptable y distribuido que pueda operar en un ambiente realístico, al final se encontró que un enfoque adaptable a las señales de control (semáforos) resultan en velocidad vehicular más alta que en las de un controlador fijo.
La propuesta para mejorar el tráfico vehicular incluye un sistema que este interconectado con los otros puntos de control de tráfico vehicular para poder predecir cómo se debería controlar el tráfico antes de que ocurra y más importante un sistema para los mismos conductores que les ayuda a tomar decisiones más inteligentes con la información que se les pueda proporcionar desde los puntos de control.

Carleton University y Tony White

La Universidad de Carleton está localizada en la capital de Canadá en Ottawa, Ontario. Se fundó en 1942. Aunque inició como una universidad privada, hoy en día es una universidad pública, ofreciendo más de 65 programas académicos, con una gran variedad de disciplinas, entre ellas la Inteligencia Artificial. Su facultad de ciencias computacionales tiene un gran número de   intereses investigativos. De todos ellos escogimos seguir al Dr. Tony White, el cual es profesor en esa institución e investiga sobre Swarm Intelligence.

Swarm Intelligence - Inteligencia de Enjambre o Multitudes

En esta parte del blog seguiremos  las investigaciones que ha hecho la Carleton University en cuanto el “Swarm Intelligence”.

Swarm Intelligence o en español Inteligencia de Enjambre o Multitudes se define como el comportamiento colectivo de sistemas descentralizados o auto organizados ya sean estos naturales o artificiales. Este es un campo en Inteligencia Artificial, que fue utilizado primero por Gerardo Beni y Jing Wang en 1989 para describir sistemas robóticos celulares.

Normalmente estos sistemas se trata de poblaciones de agentes simples que interactúan uno con el otro localmente en su ambiente, puede ser hormigas, abejas, tráfico de carros, etc. La idea es que los agentes sigan un set de reglas simples y aunque no hay un control dictando como ellos se puedan desplazar o comportar, interacciones entre estos agentes aunque aleatorias apuntan a un comportamiento global descrito como inteligente, el cual no es necesariamente conocido para los agentes.

Cuando se aplican estos principios a los robots se le llama “swarm robotics”. Entonces se dice que “swarm intelligence” se refiere a un conjunto de algoritmos para describir este fenómeno. Este campo ya ha tenido aplicaciones en el contexto de predicciones, por eso a veces se le dice “Swarm predicción”.