No total, são 2400 pessoas, onde se incluem nomes como Elon Musk, o sobejamente conhecido patrão da Tesla, ou organizações como a Google DeepMind, a assinar esta promessa. Também há vários académicos portugueses a assinar o acordo.
Elaborada pelo Future of Life Institute, aborda o papel que a IA pode ter a nível militar – e estas 160 organizações comprometem-se a não ter ligação a qualquer desenvolvimento da tecnologia com fins letais. Na publicação, é explicado que a inteligência artificial pode ter um papel fundamental e capacidade para desequilibrar o equilíbrio de forças.
A promessa foi feita durante a Conferência Conjunta para a Inteligência Artificial. O Future of Life Institute anunciou esta promessa, onde várias personalidades do mundo tecnológico e empresas assumem que “não vão participar ou apoiar o desenvolvimento, manufatura, transação ou uso de armamento autónomo letal”.
A lista de personalidades é grande, contando com académicos, nomes fortes do mundo da tecnologia e também instituições de ensino – a Universidade Nova de Lisboa, por exemplo, está entre as organizações que escolheram assinar esta promessa; também os professores Luís Moniz Pereira, Luís M. P. Correia ou João Carlos Balsa da Silva, de ciências da computação da Nova de Lisboa, assinam esta promessa do instituto.
Mas há mais portugueses na lista, como Rui Namorado Rosa, da Universidade de Évora, ou Fernando Amílcar Cardoso, da Universidade de Coimbra.
Na promessa, é referido que “os assinantes estão de acordo de que decisão de acabar com uma vida humana nunca deve ser delegada a uma máquina. Há uma componente moral nesta posição, e não devemos aceitar que máquinas possam fazer decisões deste tipo, que levarão a que outros – ou ninguém – seja culpabilizado”.
Além disso, as várias pessoas e organizações pedem ainda que legisladores, cidadãos e líderes governamentais criem formas de distinguir entre aquilo que é aceitável e inaceitável no uso da inteligência artificial.
Esta promessa surge pouco tempo depois de várias empresas tecnológicas, como o caso da Google, ter sido alvo de críticas por colaborar com entidades como o Pentágono. Neste caso, tratava-se do projeto Maven, que colocava a inteligência artificial da Google a analisar imagens de drones, para o Departamento de Defesa dos EUA.
O caso gerou tanta controvérsia que levou a uma petição internacional de vários trabalhadores da Google, que pediam à empresa que não renovasse o contrato com o governo norte-americano. Depois disso, a Google acabou por lançar inclusive um conjunto de princípios éticos para orientar o uso de IA para fins militares.
Mas a Google não foi a única envolvida em questões deste género: também a Amazon esteve debaixo de fogo por partilhar a sua tecnologia de reconhecimento facial com forças policiais. Na lista de assinantes desta promessa, há inclusive dois nomes da Amazon: Tom Diethe, manager de Machine Learning da Amazon e Thomas Lee, engenheiro de desenvolvimento de software.