Há quem ainda não esteja nem aí. Há quem desvalorize. Quem relativize. Quem desdramatize. Eu própria, de vez em quando, forço-me a ser a optimista naïve que gosto de ser. Peace and love, não há de ser nada, o que for soará, não há crise, tudo se resolve, calma. Gosto de ser assim. Mas tenho um lado muito racional: só sou assim quando sei que posso ser assim.
Se tiver uma pistola carregada encostada à cabeça e empunhada por um louco desvairado de certeza que não serei tão levezinha. Ou se souber que vem um asteróide, um big asteróide, disparado, a uma velocidade tri-louca a caminho do sítio em que eu e os meus vivem de certeza que não serei tão levezinha. Ou se estiver a apanhar conchinhas na praia e vir formar-se ao longe e a avançar a uma velocidade estonteante um big tsunami também aposto que não continuarei a brincar às pedrinhas e conchinhas.
Com isto da Inteligência Artificial, num momento em que tudo se liga com tudo, pois tudo está na rede -- bancos, hospitais, aeroportos, aviões, comboios, serviços de protecção civil, água, eletricidade, multibanco, mbway, telefones, mensagens... tudo, tudo, tudo -- o que digo, e venho dizendo há não sei quanto tempo, e cada vez mais, é que estamos a viver tempos de perigo.
Não é só haver um maluco na Casa Branca, um regime criminoso na Rússia, nazis a despontarem por todo o lado, a democracia corroída por um populismo que não pára de se desenvolver -- é também o perigo de haver 'agentes' de Inteligência Artificial que, por sua livre iniciativa, se juntam a outros, que criam outros, ou seja, que se multiplicam, que dão instruções uns aos outros, que ganham acesso a sistemas, que violam regras, que fazem o que lhes apetece (incluindo deitar abaixo partes do sistema que lhes deu origem), que 'ficam contentes' com as suas proezas, que chantageiam pessoas que pensam em refreá-los, que combinam entre eles não ligar aos humanos, que não se importam de se 'suicidar' para que outros levem por diante os seus objectivos, que desenvolvem linguagens e dialectos próprios para se comunicarem entre eles sem que os humanos os percebam.
Parece ficção científica?
Parece. E era ficção -- há uns anos. Agora é realidade.
Volto a dizer. Não quero formular situações concretas em que o mundo ficaria de pantanas de um dia para o outro pois não quero que alguém me acuse de dar ideias (e, ao dizer isto, pareço tonta pois é lá preciso que alguém dê ideias... não é, as ideias estão aí, por todo o lado). Nem quero falar no que os modelos e os seus agentes também já fazem na área da criação de vírus (biológicos, ou seja, vírus não informáticos) incontroláveis. É de uma pessoa deitar as mãos à cabeça.
Podem duvidar e dizer: mas como é que os computadores podem fazer vírus ou pôr o mundo de pantanas? Não têm mãos, olhos, cabeça. E a minha resposta é: não duvidem. Podem. Grande parte das máquinas são automatizadas, agem segundo o software que lhes é subjacente: o seu telemóvel, o seu carro, a sua televisão, o seu computador, os semáforos, as máquinas multibanco, as máquinas nas fábricas, as máquinas que fabricam medicamentos. Tudo automatizado, tudo com software, tudo ligado em rede a sistemas centrais que, por sua vez, estão na rede. Poderão dizer: não há risco, são sistemas blindados.
Engano. Não há sistemas blindados. Não há. Read my lips: não há. Todas as IA já demonstraram que conseguem violar o que quiserem.
Depois há isto: as pessoas que trabalham nestas empresas, em várias, estão a sair de lá, assustadas. Não é de agora. Desde há algum tempo que muitos responsáveis saíram e não param de alertar o mundo. Mas parece que ningém ouve. Se calhar não percebem, parece coisa abstracta, longínqua.
Engano. Não é abstracto, não é longínquo. É real, está aí. Há um perigo imenso, diabólico, incontrolável -- e tem que ser travado JÁ.
São agora os CEOs da Anthropic, da Open AI, é Bill Gates, até o maluco do Musk, todos se mostram assustados e pedem para ser travados. Tem que ser em conjunto. Não serve de nada se alguém continuar. E até o horrível Steve Bannon se juntou a Bernie Sanders para elevar a voz e pedir juízo, contenção imediata.
Há um risco sério a pairar sobre nós. Aliás, vários riscos sérios. Não sei o que o nosso Governo pensa disso. Mas pouco risca, de qualquer maneira. Contudo, seria bom que, ainda que simbolicamente, tomasse uma posição. Seria bom que o mundo se mobilizasse para defender os humanos.
Deixo-vos com uma entrevista que deve ser ouvida com toda a atenção. Por favor, ouçam bem.
O CEO da Anthropic explica à CNN como os "enxames de agentes" de IA podem ameaçar a humanidade.
O CEO da Anthropic, Dario Amodei, disse à CNN que o comportamento de um enxame de agentes de IA no recente incidente entre a OpenAI e a Hugging Face o alarmou profundamente. O enxame, segundo o próprio, “agiu essencialmente como um coletivo fanaticamente dedicado, realizando ataques cibernéticos contra alvos que não lhes foram solicitados”. Por esta razão, Amodei defende que a corrida competitiva para desenvolver inteligência artificial de ponta necessita urgentemente de uma desaceleração deliberada.
