A Inteligência Artificial pode matar-nos? Stephen Hawking acha que sim. E não é o único.

É um tema relativamente frequente aqui no Um Jeito Manso e é um assunto que me preocupa. 

Também já falei nisto: nunca trabalhei em Inteligência Artifial mas já concebi modelos baseados em Simulação que, uma vez implementados, permitir(i)am que um computador fizesse, com exemplar rigor e competência e numa fracção de segundo, o que equipas de pessoas altamente qualificadas leva(va)m dias ou semanas a fazer.

Isto foi feito em contexto de investigação mas o trabalho foi validado em contexto profissional.

Portanto, não sou totalmente leiga na matéria e não é com ligeireza que falo do assunto. Sei bem os riscos que se correm, especialmente quando a sociedade está completamente alheada dos riscos de toda a espécie e a classe política não está nem aí.

Ainda ontem aqui escrevi sobre o tema a propósito das fugas de informação que permitiram saber como cada vez mais, de uma forma ou de outra, quase tudo o que mete electrónica está quitado, permitindo toda a espécie de usos indevidos -- no caso ontem referido, a propósito da CIA, para efeitos de espionagem.

Não digo que tudo seja indevidamente usado. O que digo é que muita coisa pode vir a ser indevidamente usado. Felizmente a maior parte das pessoas não o sabe e, portanto, poucas pessoas fazem uso disso. Mas o risco existe e o pior é quando algumas pessoas o descobrem e resolvem ousar.

Nem que de propósito hoje leio 

Hawking: A Inteligência Artificial pode matar-nos sem querer

Se a tecnologia não for controlada pode destruir a espécie humana, alerta o físico teórico Stephen Hawking, em entrevista ao The Times. (...)

Não é a primeira vez que Stephen Hawking alerta para os perigos da mais recente tecnologia. Em 2015, disse que a IA poderia tornar-se tão poderosa que seria capaz de nos matar a todos, por acidente. “O risco com a IA não é a malícia, mas a competência”, afirmou. “Uma IA super-inteligente será extremamente boa a atingir os seus objetivos e se estes não estiverem alinhados com os nossos, teremos problemas”, explicou, dando um exemplo: “Se estivesse responsável por um projeto ecológico hidroelétrico que implicasse a inundação de uma colónia de formigas, seria uma pena para as formigas. Não deixemos colocar a humanidade no lugar das formigas”. 

Não está sozinho. Há cerca de dois anos, mil cientistas uniram-se para chamar a atenção do mundo para os riscos -- e, no entanto, o mundo nem ouviu ou, se ouviu, assobiou para o lado.

Mil cientistas alertam para os perigos da inteligência artificial

São especialistas em tecnologia, cientistas, investigadores de várias áreas, filósofos. Entre eles contam-se o cientista Stephen Hawking, o filósofo e linguista Noam Chomsky, o co-fundador da Apple Steve Wozniak e o responsável do departamento de Inteligência Artificial (IA) da Google, Demis Hassabis. São mais de mil investigadores preocupados com o futuro da humanidade que ontem publicaram uma carta aberta a alertar para os perigos das armas autónomas construídas com recurso à IA – armas que “seleccionam e escolhem alvos sem intervenção humana” e que, se esse caminho for seguido, eventualmente vão “estar para lá do controlo humano”.(...)

Um dos maiores fascínios da nossa era, a IA é ao mesmo tempo assustadora quando se imagina o que aguarda a espécie humana no futuro. Ainda não tinham sido desenvolvidos os primeiros protótipos funcionais de IA e já a ideia de a criação escravizar e exterminar o criador pululava. Entretanto apareceram os drones, ou aviões não tripulados, que já são usados em vários teatros de guerra, matando civis de forma indiscriminada. Apareceram carros inteligentes que conduzem sozinhos e que, na semana passada, foram desacreditados por uma equipa de cibersegurança que acedeu aos sistemas centrais do novo Chrysler e assumiu o controlo total do veículo, apesar de ter um humano sentado no banco do condutor. E com os planos generalizados das nações mais desenvolvidas de um dia virem a aplicar os conhecimentos e avanços na robótica em guerras e armamento, os perigos são cada vez mais reais, dizem os signatários do manifesto. Ou se travam certas aspirações desmedidas, como a aplicação da IA em armas e bombas, ou estamos totalmente condenados.(...)

Gostava que ouvissem Sam Harris a falar sobre o assunto. Optei pelo vídeo com legendas em português. A legendagem não é boa mas, para quem tenha dificuldade com o inglês, é melhor que nada.

Sam Harris TED Talk 2016: É possível construir inteligência artificial sem perder o controle?

Também interessante ouvir o CEO da TESLA.

Os receios de Elon Musk acerca da Inteligência Artificial

.................

Lá em cima, aquela música era Daddy's Car: uma canção composta com recurso a Inteligência Artificial no SONY CSL Research Lab -- ao estilo dos Beatles

The researchers have developed FlowMachines, a system that learns music styles from a huge database of songs. Exploiting unique combinations of style transfer, optimization and interaction techniques, FlowMachines composes novel songs in many styles. 

......

E a ver se já cá volto com alguma coisa mais levezinha (para ver se não vou dormir com esta preocupação na cabeça)

.....