Sobre aquela coisa de que a IA pode dar cabo da humanidade e tal e coisa e haver muita gente que acha que isto pode ser tudo um alarmismo sem razão de ser e etc e tal, sempre tenho dito, e digo-o há anos e anos, que não se deve brincar com coisas sérias. Ferramentas poderosas nas mãos sabe-se lá de quem, é coisa com elevada probabilidade de vir a dar para o torto.
O mundo já anda perigoso mesmo sem inteligências ao ataque, fará quando as ditas, encarnando 'agentes', resolverem fazer das suas.
Quem por aqui me acompanha saberá que digo muitas vezes que não quero dar exemplos do que pode acontecer pois não quero que alguém um dia possa dizer que estou para aqui a dar ideias. É absurdo, bem sei, porque ideias é o que não falta a quem quer fazer mal e a última coisa que lhes há de ocorrer é prestarem atenção ao que aqui digo. Mas, ainda assim, prefiro conter-me.
Aconteceu, umas quantas vezes, no grupo onde trabalhei, recebermos a visita de pessoas dos Serviços de Inteligência para nos alertarem para alguns riscos. Inspirei-me na 'agente secreta', simpaticíssima e elegantérima, que dava voz às recomendações, em algumas novelas que escrevi. E não foi apenas nela: foi também em casos reais de que ela falou, sem revelar nomes, nem de empresas nem de intervenientes.
Aliás, alguns dos casos que foram usados para exemplificar os riscos e o modo de actuação de agentes (na altura, humanos) quer para espiar quer para sabotar, eram, sem tirrar nem pôr, casos que tinham acontecido com alguns artistas lá do Grupo. Ela, diplomaticamente, falou como se fossem outras empresas, outras pessoas, mas eu, que já conhecia algumas peripécias, bem vi alguns, aflitos, a trocarem olhares estupefactos e, até, apavorados, entre eles.
E se os riscos já eram (e são) tremendos com agentes humanos, imagine-se com agentes artificiais, ultra inteligentes, ultra rápidos, invisíveis, ubíquos.
Vou dar apenas um pequeno, ínfimo, ínfimo, exemplo. Uma vez estava numa conferência em que um dos intervenientes era um hacker reconvertido para o bem, isto é, que trabalhava para uma grande consultora como expert em segurança. Ao vivo, no palco, com um computador, depois de relatar que na véspera tinha estado a 'varrer' algumas das grandes empresas do país e que tinha descoberto inúmeras 'portas' abertas ou facílimas de abrir, resolveu demonstrar como é de caras 'entrar' numa empresa. E ali mesmo mostrou como se tinha apoderado do sistema de câmaras de vigilância e não apenas se via o que se passava lá dentro como ele as orientava, aumentava a sensibilidade para melhor captar imagens, etc. Escusado será dizer que todos os presentes ficaram altamente intranquilos.
Explicou, nessa altura, como explicam todos os especialistas em segurança, que muitas vezes nem são os sistema informáticos principais, a cargo de técnicos com conhecimentos em segurança, que são os mais vulneráveis, mas, sim, os sistemas que fogem muitas vezes ao controlo dos informáticos e que ficam sob gestão dos emgenheiros de processo ou de manutenção. Nas empresas (ou nas organizações em geral) as pessoas ainda pensam que os riscos só estão nos computadores, nem lhes ocorre que o risco está em tudo o que esteja ligado na rede. E, não nos esqueçamos, não há hoje equipamento, seja qual for, que não esteja ligado em rede, não apenas para ser monitorizado como para ser intervencionado remotamente, a nível de manutenção. Não há fábrica, empresa, autoestrada, hospital, ou cadeia de hipermercados, por exemplo, em que isso não aconteça.
Um hacker (humano ou agente de IA), ao varrer a rede, detecta uma fragilidade de segurança (e muitas vezes muitas dessas 'coisas' nem têm segurança -- afinal são equipamentos, quem é que os quer piratear...?), entra, e, a partir daí faz o que quer.
 |
| Imagem gerada pelo Chat GPT (tem algumas redundâncias mas, a esta hora, vou deixar estar) |
Não é ficção. Quem está mais afastado destas realidades acredite. Não estou a exagerar ou a dramatizar. Poderia dar exemplos de situações gravíssimas que já aconteceram, gravíssimas mesmo. Claro que geralmente a empresa/instituição a quem isto acontece cala-se bem caladinha para evitar danos reputacionais, para evitar alarme social, para não dar ideias, etc, e, por isso, a opinião pública nem faz ideia do que se passou.
Desta vez, contudo, a coisa foi impossível de esconder. Hackers entraram nos hipermercados e puseram os frigoríficos a aquecer. Centenas. Espalhados por várias cidades. Creio que por vários países mas com predominância em França.
Ao saber disto, senti um arrepio. É de coisas assim que eu tenho medo. E tenho medo porque sei que isto é fácil de fazer. Sei. Sei que se alguém quiser fazer mal, muito mal, consegue fazer.
Este caso não demonstra apenas que é possível estragar muitas toneladas de alimentos em todo o lado, ao mesmo tempo, e, ainda por cima, provocar incêndios -- demonstra que sabem fazer, que conseguem fazer, que o farão se quiserem.
Volto a dizer: não quero que alguém diga que estou a dar ideias. Mas a quem tenha um mínimo de capacidade de abstração não será difícil perceber que isto vale para sistemas de refrigeração de supermercados mas também para hospitais ou fábricas (incluindo as que produzem produtos essenciais ou produtos perigosos -- e aqui o risco é de natureza distinta), para sistemas de controlo de águas e eletricidade e comunicações e autoestradas e pontes e comboios e aviões, para máquinas ATM, e por aí adiante.
No grupo em que eu trabalhava os avisos foram levados muito a sério. Eu mesma promovi várias reuniões, a vários níveis, para alertar para os diferentes tipos de risco. E muitas medidas foram implementadas, muitas delas sob grande oposição dos que se sentiram coarctados na sua liberdade de implementar sistemas de toda a espécie, inovadores ou não inovadores, projectos de toda a espécie, tudo ligado na rede, muitos deles sem obedecerem a protocolos apertados de segurança. Mas eu trabalhava num grande grupo em que havia muito dinheiro para investir em segurança. Muitas empresas, ou organismos, não apenas não estão sensibilizados para a imensidão dos riscos como nem têm dinheiro para gastar nisso.
Portanto, com tudo ligado a tudo (quandos equipamentos das nossas casas não estão ligados à nossa rede doméstica para podermos controlar remotamente? Pois...) e com tanta gente que gosta de fazer mal, seja através de guerras híbridas, seja por banditismo, seja por que motivo for, não sei bem se o mundo está preparado para o que se avizinha. E uma coisa é ter um hacker, ou uma equipa de hackers, gente de carne e osso, a trabalharem por si mesmos, ou a mando de alguma outra empresa (espionagem industrial) ou a mando de algum estado (espionagem, sabotagem ou terrorismo), e outra, muito diferente, milhões de vezes mais perigosa, é ter um batalhão de agentes de IA, super inteligentes, capazes de tudo em pouco tempo, a entrar onde quiserem, provocando os danos que quiserem, e, com a sofisticação crescente que têm demonstrado, sem deixarem rasto.
Nada disto pode ser levado com ligeireza. Não é tema que ocupe comentadores ou desperte interesse nos políticos, mas, caraças, read my lips, é um tema nevrálgico e premente. Não lhe dedicar atenção e esforço pode, um dia, vir a deixar o mundo à beira do abismo.
