Como a « teoria dos jogos invertida » pode manter os agentes de IA sob controlo

Como a « teoria dos jogos invertida » pode manter os agentes de IA sob controlo

Para alinhar os sistemas de inteligência artificial com as intenções dos seus criadores, uma abordagem consiste em inspirar-se nos mecanismos que mantêm os indivíduos dentro das regras da sociedade. É esta a abordagem defendida por Elad Hazan, professor de ciência da computação em Princeton, que propõe basear-se nas normas sociais, no sistema judicial ou nos incentivos financeiros do capitalismo de mercado.

  • Elad Hazan propõe controlar a IA com mecanismos sociais, judiciais e financeiros.
  • Um agente resolve problemas e outro audita o seu trabalho.
  • Os auditores são penalizados se não detetarem a batota.
  • O método assume agentes racionais, mas a racionalidade da IA é incerta.

« Queremos alinhar uma IA superinteligente », afirma. « Por que não falar primeiro dos humanos? Como é que alinhamos os humanos? »

Regras inspiradas na sociedade

O mecanismo proposto por Elad Hazan faz alternar modelos em dois papéis: os «solucionadores», que atacam problemas, e os «auditores», que verificam o trabalho dos outros. «Um agente desempenha o papel da polícia; o outro, o do cidadão», resume.

Durante o treino, os modelos são recompensados com base nos resultados. Os solucionadores apanhados a fazer batota são sancionados, mas os auditores que não conseguem detetar os batoteiros também o são. Em caso de desacordo entre auditores e solucionadores, o caso pode ser levado a um «julgamento», onde um perito humano poderia decidir.

Elad Hazan reconhece um risco: que os agentes façam conluio entre si, como podem fazer auditores com as empresas que supostamente devem controlar, ou polícias corruptos com criminosos. Segundo ele, este problema pode ser resolvido remunerando suficientemente os auditores para que ser apanhado não valha o risco, o que é muito mais simples no treino de uma IA do que no mundo real, onde os orçamentos salariais da polícia são limitados. Propõe também controlar os próprios auditores, através de técnicas comparáveis às dos clientes misteriosos.

Baseia-se nos trabalhos do economista Gary Becker, prémio Nobel, que introduziu na década de 1960 a noção de «delinquente racional». Segundo Elad Hazan, os criminosos não infringem a lei porque são fundamentalmente maus, mas porque essa é a escolha mais racional face aos incentivos propostos. Um crime só faz sentido, segundo este raciocínio, se o ganho superar a pena potencial.

Para Elad Hazan, o alinhamento não deve ser considerado uma propriedade de um modelo, mas sim a descrição do seu comportamento num dado momento. «Você é, de certa forma, uma pessoa boa», afirma. «Está alinhado? Não sei. Provavelmente está a maior parte do tempo, mas pode haver uma situação em que não estará.»

Os limites da abordagem

O método baseia-se na hipótese de que os agentes de IA se comportam de forma racional. Ora, a teoria dos mecanismos, ramo da economia que concebe regras de incentivo, tem um historial misto com os humanos, que nem sempre se comportam como os modelos económicos preveem.

O artigo salienta um paradoxo: os economistas passaram décadas a tentar reduzir o comportamento humano a matemática, enquanto os grandes modelos de linguagem são sistemas matemáticos que funcionam a partir da linguagem humana e poderão ser igualmente difíceis de decifrar. Estes modelos apresentam comportamentos que parecem mais humanos do que mecânicos, e podem ser influenciados por fatores subtis, difíceis de compreender e explicar. Helen Qu, investigadora no Flatiron Institute, uma organização sem fins lucrativos dedicada ao avanço da descoberta científica através de métodos computacionais, questiona: «Será sequer razoável supor que eles reagirão aos incentivos?»

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x