O que é que deve, verdadeiramente, causar-nos calafrios?

Do Leitor Fernando Ribeiro com quem sempre aprendo e, por sinal, autor de um blog que acompanho sempre com agrado e surpresa, A Matéria do Tempo, a propósito do meu post de ontem sobre a tecnologia quântica posta ao serviço da inteligência artificial num contexto permissivo e completamente desregulado, escreveu um comentário que é de tal forma interessante que eu, receando que possa passar despercebido, tomo a liberdade de o puxar para um post autónomo.

A vossa atenção, por favor:

Uma pergunta que faz calafrios: o que seria da humanidade se Hitler tivesse acesso às tecnologias do tempo presente? Uma pergunta que faz MUITO MAIS calafrios: sendo certo que Donald Trump não passa de um pateta alegre nas mãos de indivíduos muito mais perigosos do que ele, o que será da humanidade com o acesso que estes indivíduos têm às tecnologias do tempo presente?

Minha cara amiga, não se preocupe (muito) com a Internet das Coisas. Para já, pelo menos, ninguém vai querer um microondas com ligação à Internet, embora a IoT vá muitíssimo mais longe do que apenas permitir que os fornos de microondas ou os frigoríficos tenham acesso à Internet.

Não se preocupe (muito), igualmente, com a computação quântica. Os fenómenos quânticos ultrapassam a nossa compreensão, é verdade que sim, mas desde que se inventou a Eletrónica, há mais de cem anos, não se tem feito outra coisa que não seja explorar as possibilidades que a Física Quântica nos oferece.

PREOCUPE-SE (isso sim!) com a Inteligência Artificial, sobretudo com as possibilidades oferecidas pelas chamadas redes neuronais. 

As redes neuronais são redes de processadores ("neurónios") que estão ligados entre si através de conexões ponderadas ("sinapses") e que procuram imitar o funcionamento de um cérebro. Os processadores das redes neuronais são muito simples; por si sós não representam qualquer perigo, mas eles podem ser muitíssimos. As sinapses ligando dois processadores também são simples; não passam de ligações, às quais são atribuídos "pesos" com um valor situado entre 0 e 1, que representam a "força" da ligação entre dois processadores. O verdadeiro perigo está NO CONJUNTO disto tudo. 

Uma rede neuronal pode APRENDER SOZINHA! Por razões que ainda não são completamente conhecidas, as redes neuronais conseguem, POR SI PRÓPRIAS, adaptar-se a novas situações e resolver novos problemas. Os carros autónomos, que a Tesla, a Uber e outras empresas estão a desenvolver, são um exemplo acabado desta capacidade de aprendizagem das redes neuronais. 

AINDA MAIS ASSUSTADOR do que tudo isto é o facto de cientistas e engenheiros terem desistido de compreender o que se passa dentro de uma rede neuronal! Eles têm-se preocupando apenas com os dados que são apresentados à rede e com os resultados que ela produz, sem quererem saber o que é que se passa lá dentro. Pode parecer inacreditável, mas é verdade, pelo menos até agora! Finalmente, apareceram pessoas preocupadas em perceber o que é que se passa dentro das redes neuronais. 

Sobre este assunto, chamo a sua atenção para o seguinte artigo da prestigiada revista Science: Brainlike computers are a black box. Scientists are finally peering inside. 

Na figura inicial, está representada uma rede neuronal muito simples, em que os pontos representam os "neurónios" e as linhas que os unem representam as "sinapses".

Quero ainda chamar a sua atenção para um outro artigo, este de outra revista científica de grande prestígio, a Nature, e que também nos dá muito que pensar: How Facebook, fake news and friends are warping your memory

________________

Aconselho vivamente os artigos cujos links o Fernando Ribeiro indicou.

[A escolha das imagens que aqui usei é da minha responsabilidade]

E agradeço ao Fernando Ribeiro a partilha das suas preocupações e a forma didáctica com que sempre nos leva a ver mais longe e/ou noutras direcções.

----------------