La nueva IA de DeepMind puede ser mejor para distribuir los recursos de la sociedad que los humanos
Por: Edd Gent (original en inglés)
Cómo los grupos de humanos que trabajan juntos en
colaboración deben redistribuir la riqueza que crean es un problema que ha
plagado a filósofos, economistas y politólogos durante años. Un nuevo estudio
de DeepMind sugiere que la IA puede ser capaz de tomar mejores decisiones que
los humanos.
La IA está demostrando ser cada vez más experta en
resolver desafíos complejos en todo, desde los negocios hasta la biomedicina,
por lo que la idea de usarla para ayudar a diseñar soluciones a problemas
sociales es atractiva. Pero hacerlo es complicado, porque responder a este tipo
de preguntas requiere confiar en ideas altamente subjetivas como la equidad, la
justicia y la responsabilidad.
Para que una solución de IA funcione, debe alinearse
con los valores de la sociedad con la que está tratando, pero la diversidad de
ideologías políticas que existe hoy en día sugiere que estas están lejos de ser
uniformes. Eso hace que sea difícil determinar para qué se debe optimizar e
introduce el peligro de que los valores de los desarrolladores sesguen el
resultado del proceso.
La mejor manera que las sociedades humanas han
encontrado para lidiar con los inevitables desacuerdos sobre tales problemas
es la democracia, en la que las opiniones de la mayoría se utilizan para guiar
las políticas públicas. Así que ahora los investigadores de Deepmind han
desarrollado un nuevo enfoque que combina la IA con la deliberación democrática
humana para encontrar mejores soluciones a los dilemas sociales.
Para probar su enfoque, los investigadores llevaron a
cabo un estudio de prueba de concepto utilizando un juego simple en el que los
usuarios deciden cómo compartir sus recursos para beneficio mutuo. El
experimento está diseñado para actuar como un microcosmos de las sociedades
humanas en las que las personas de diferentes niveles de riqueza necesitan
trabajar juntas para crear una sociedad justa y próspera.
El juego involucra a cuatro jugadores que reciben
diferentes cantidades de dinero y tienen que decidir si se lo guardan para sí
mismos o lo pagan en un fondo público que genera un retorno de la inversión.
Sin embargo, la forma en que se redistribuye este retorno de la inversión se
puede ajustar de manera que beneficie a algunos jugadores sobre otros.
Los posibles mecanismos incluyen el estricta igualdad,
donde los rendimientos de los fondos públicos se comparten por igual
independientemente de la contribución; libertario, donde los pagos son
proporcionales a las contribuciones; e igualitario liberal, donde el pago de
cada jugador es proporcional a la fracción de sus fondos privados que aportan.
En una investigación publicada en Nature
Human Behavior, los investigadores describen cómo lograron que grupos de
humanos jugaran muchas rondas de este juego bajo diferentes niveles de
desigualdad y utilizando diferentes mecanismos de redistribución. Luego se les
pidió que votaran sobre qué método de dividir las ganancias preferían.
Estos datos se utilizaron para entrenar a una IA para
imitar el comportamiento humano en el juego, incluida la forma en que los
jugadores votan. Los investigadores enfrentaron a estos jugadores de IA entre
sí en miles de juegos, mientras que otro sistema de IA modificó el mecanismo de
redistribución en función de la forma en que los jugadores de IA estaban
votando.
Al final de este proceso, la IA se había decidido por
un mecanismo de redistribución que era similar al igualitario liberal, pero no
devolvió casi nada a los jugadores a menos que contribuyeran con
aproximadamente la mitad de su riqueza privada. Cuando los humanos jugaron
juegos que enfrentaron este enfoque contra los tres mecanismos principales
establecidos, el diseñado por IA ganó consistentemente la votación. También le
fue mejor que a los juegos en los que los árbitros humanos decidieron cómo
compartir los retornos.
Los investigadores dicen que el mecanismo diseñado por
la IA probablemente funcionó bien porque basar los pagos en contribuciones
relativas en lugar de absolutas ayuda a corregir los desequilibrios iniciales
de riqueza, pero forzar una contribución mínima evita que los jugadores menos
ricos simplemente aprovechen las contribuciones de los más ricos.
Los investigadores identificaron varios problemas
potenciales ellos mismos. Un problema con la democracia puede ser la
"tiranía de la mayoría", que puede hacer que persistan los patrones
existentes de discriminación o injusticia contra las minorías. También plantean
cuestiones de explicabilidad y confianza, que serían cruciales si las
soluciones diseñadas por IA alguna vez se aplicaran a dilemas del mundo real.
El equipo diseñó explícitamente su modelo de IA para
generar mecanismos que se puedan explicar, pero esto podría ser cada vez más
difícil si el enfoque se aplica a problemas más complejos. A los jugadores
tampoco se les dijo cuándo la redistribución estaba siendo controlada por la
IA, y los investigadores admiten que este conocimiento puede afectar la forma
en que votan.
Sin embargo, como primera prueba de principio, esta
investigación demuestra un nuevo enfoque prometedor para resolver problemas
sociales, que combina lo mejor de la inteligencia artificial y humana. Todavía
estamos muy lejos de que las máquinas ayuden a establecer políticas públicas,
pero parece que la IA algún día puede ayudarnos a encontrar nuevas soluciones
que vayan más allá de las ideologías establecidas.
Fuente: SingularityHub