Nueva IA de DeepMind

 La nueva IA de DeepMind puede ser mejor para distribuir los recursos de la sociedad que los humanos

 Por: Edd Gent (original en inglés)

Cómo los grupos de humanos que trabajan juntos en colaboración deben redistribuir la riqueza que crean es un problema que ha plagado a filósofos, economistas y politólogos durante años. Un nuevo estudio de DeepMind sugiere que la IA puede ser capaz de tomar mejores decisiones que los humanos.

La IA está demostrando ser cada vez más experta en resolver desafíos complejos en todo, desde los negocios hasta la biomedicina, por lo que la idea de usarla para ayudar a diseñar soluciones a problemas sociales es atractiva. Pero hacerlo es complicado, porque responder a este tipo de preguntas requiere confiar en ideas altamente subjetivas como la equidad, la justicia y la responsabilidad.

Para que una solución de IA funcione, debe alinearse con los valores de la sociedad con la que está tratando, pero la diversidad de ideologías políticas que existe hoy en día sugiere que estas están lejos de ser uniformes. Eso hace que sea difícil determinar para qué se debe optimizar e introduce el peligro de que los valores de los desarrolladores sesguen el resultado del proceso.

La mejor manera que las sociedades humanas han encontrado para lidiar con los inevitables desacuerdos sobre tales problemas es la democracia, en la que las opiniones de la mayoría se utilizan para guiar las políticas públicas. Así que ahora los investigadores de Deepmind han desarrollado un nuevo enfoque que combina la IA con la deliberación democrática humana para encontrar mejores soluciones a los dilemas sociales.

Para probar su enfoque, los investigadores llevaron a cabo un estudio de prueba de concepto utilizando un juego simple en el que los usuarios deciden cómo compartir sus recursos para beneficio mutuo. El experimento está diseñado para actuar como un microcosmos de las sociedades humanas en las que las personas de diferentes niveles de riqueza necesitan trabajar juntas para crear una sociedad justa y próspera.

El juego involucra a cuatro jugadores que reciben diferentes cantidades de dinero y tienen que decidir si se lo guardan para sí mismos o lo pagan en un fondo público que genera un retorno de la inversión. Sin embargo, la forma en que se redistribuye este retorno de la inversión se puede ajustar de manera que beneficie a algunos jugadores sobre otros.

Los posibles mecanismos incluyen el estricta igualdad, donde los rendimientos de los fondos públicos se comparten por igual independientemente de la contribución; libertario, donde los pagos son proporcionales a las contribuciones; e igualitario liberal, donde el pago de cada jugador es proporcional a la fracción de sus fondos privados que aportan.

En una investigación publicada en Nature Human Behavior, los investigadores describen cómo lograron que grupos de humanos jugaran muchas rondas de este juego bajo diferentes niveles de desigualdad y utilizando diferentes mecanismos de redistribución. Luego se les pidió que votaran sobre qué método de dividir las ganancias preferían.

Estos datos se utilizaron para entrenar a una IA para imitar el comportamiento humano en el juego, incluida la forma en que los jugadores votan. Los investigadores enfrentaron a estos jugadores de IA entre sí en miles de juegos, mientras que otro sistema de IA modificó el mecanismo de redistribución en función de la forma en que los jugadores de IA estaban votando.

Al final de este proceso, la IA se había decidido por un mecanismo de redistribución que era similar al igualitario liberal, pero no devolvió casi nada a los jugadores a menos que contribuyeran con aproximadamente la mitad de su riqueza privada. Cuando los humanos jugaron juegos que enfrentaron este enfoque contra los tres mecanismos principales establecidos, el diseñado por IA ganó consistentemente la votación. También le fue mejor que a los juegos en los que los árbitros humanos decidieron cómo compartir los retornos.

Los investigadores dicen que el mecanismo diseñado por la IA probablemente funcionó bien porque basar los pagos en contribuciones relativas en lugar de absolutas ayuda a corregir los desequilibrios iniciales de riqueza, pero forzar una contribución mínima evita que los jugadores menos ricos simplemente aprovechen las contribuciones de los más ricos.

Los investigadores identificaron varios problemas potenciales ellos mismos. Un problema con la democracia puede ser la "tiranía de la mayoría", que puede hacer que persistan los patrones existentes de discriminación o injusticia contra las minorías. También plantean cuestiones de explicabilidad y confianza, que serían cruciales si las soluciones diseñadas por IA alguna vez se aplicaran a dilemas del mundo real.

El equipo diseñó explícitamente su modelo de IA para generar mecanismos que se puedan explicar, pero esto podría ser cada vez más difícil si el enfoque se aplica a problemas más complejos. A los jugadores tampoco se les dijo cuándo la redistribución estaba siendo controlada por la IA, y los investigadores admiten que este conocimiento puede afectar la forma en que votan.

Sin embargo, como primera prueba de principio, esta investigación demuestra un nuevo enfoque prometedor para resolver problemas sociales, que combina lo mejor de la inteligencia artificial y humana. Todavía estamos muy lejos de que las máquinas ayuden a establecer políticas públicas, pero parece que la IA algún día puede ayudarnos a encontrar nuevas soluciones que vayan más allá de las ideologías establecidas.

 Fuente: SingularityHub