Porque é que a simpática Ameca é tão assustadora?

 

Em certa medida Ameca e outros que tais já são mais inteligentes que nós. Talvez lhes falte ainda um pouco de inteligência emocional. Mas já não deve faltar muito para que nos apanhem e, depois, nos ultrapassem.

Dizem os criadores que se um dia as suas criações quiserem destruir a humanidade bastará desligá-los da corrente. 

Mas não é verdade pois estas máquinas podem tomar decisões que sejam dificilmente reversíveis.

E não estou a falar em cenários catastrofistas, cinéfilos. Falo apenas em pequenas ocorrências diariamente, um pouco por todo o mundo, não rastreáveis, não controladas.

Talvez a humanidade consiga adaptar-se e consiga conviver quase normalmente com as máquinas ou com as aplicações que recorrem a inteligência artificial. Mas estou céptica. Os riscos de que a coisa dê para o torto são imensos.

Não se pense que sou conservadora ou reaccionária. Não sou. Sou o oposto. Na que se refere a inovações, quando eu trabalhava era considerada aquilo a que se chama early adopter. Não receio ser cobaia, não receio ir à frente. Aquela pergunta que tanto ouvi aos meus pares: "Onde é que já usaram essa metodologia (ou tecnologia)?", a mim nunca me interessou.

Se acho que tem potencial, venha ela. Para a frente é que é caminho.

Já aqui o referi várias vezes: trabalhei durante alguns anos em modelos. Construir algoritmos era, para mim, do mais aliciante que existia à superfície da terra. Quando mais exigentes e impossíveis mais entusiasmantes eram para mim. Numa das vezes trabalhei directamente com um especialista em modelos matemáticos do Banco Mundial e aprendi muito, muito, com ele. 

Entre outras coisas, usei o que na altura se designava por simulação. Modelos complexos que recorriam a probabilidades e a estatística, a geração de aleatoriedade, a funções matemáticas de toda a espécie, a computação. Modelos que simulavam a realidade, incluindo o afluxo de pessoas a determinados sítios consoante a hora do dia, o dia da semana ou o local, modelos que simulavam o trânsito, modelos que validavam quais os melhores cenários na resolução de determinadas questões.

Sei bem como é difícil ao ser humano questionar a escolha de um modelo (isto é, os seus outputs) quando o que está por trás são milhões de iterações, de cálculos, de validações, etc. Ou se acredita que está bem feito ou não se acredita. 

Claro que se pode (e deve!) fazer testes e submeter os modelos a baterias de ensaios. Mas não é o comum dos mortais, sem formação ou dedicação que o faz.

E o que me preocupa é ter-se a utilização de modelos bem mais complexos que os meus (pois agora não se fala de milhões mas de milhões n vezes exponenciados) à disposição de toda a gente sem sabermos se foram validados, testados, se são robustos e sérios, rigorosos, à prova de bala.

Num modelo complexo, eu, se quiser, se for danada para a brincadeira ou venal, consigo dar um toque nos algoritmos ou enxertar respostas que, em vez de resultarem de cálculos sérios, sejam o fruto de manipulações.

Imagine-se, por exemplo, que eu construo um modelo matemático ultra artilhado em que entrem todas as variáveis possíveis e em que eu queira validar qual a melhor localização para o novo aeroporto. Quero que tenha o menor investimento, que tenha o menor custo para os utentes face ao seu destino interno, que polua o menos possível, que não interfira com a fauna local, que se enquadre no plano de desenvolvimento territorial, que tenha menores custos de exploração, etc. Por dentro, para o modelo funcionar, geram-se bases de dados gigantes com custos, distâncias, padrões de deslocações turísticas, expectativas demográficas, etc, tudo o que for necessário. E, algures, no meio de toda aquela matemática, enxerto um comando que diz que, independentemente de qual fosse o resultado científico, o que ele iria apresentar como solução seria a zona de Vale do Pito (isto supondo que este era um locais em análise).

Quem é que das comissões de análise e dos grupos de estudo iria rever toda aquela matemática para perceber se o modelo não estava trambicado?

E isto é apenas um exemplo pequeno, ínfimo, meramente ilustrativo. A Inteligência Artificial é mais, muito, muito mais que isto, pois alia acesso a infinito conhecimento a uma velocidade e capacidade de processamento quase ilimitada e a uma disponibilidade quase absoluta.

Claro que num mundo ideal os cérebros que constroem estes modelos pertencem a gente boa, séria, resplandecendo de ética. E os utilizadores serão gente extraordinária, generosa, rigorosa, idónea, inteligente, não influenciável.

Mas não é esse o mundo em que vivemos.

Muitas vezes a Inteligência Artificial apresenta-se como uma aplicação como o ChatGPT, outras como aplicativos que geram imagens, músicas, programas que comandam máquinas. E depois há os robots humanóides. Aí a coisa é ainda mais inquietante. Os seus criadores andam agora empenhados em captar a génese algorítmica das emoções. Estão quase lá. Já o simulam, pelo menos. 

Claro que muito disto ainda está em versão experimental. Estão a aprender com os próprios erros.

Vou contar uma coisa que me aconteceu no outro dia. Pedi ao Chat GPT se sabia dizer-me se havia alguma estrofe de Os Lusíadas em que se fale de crianças. Pois bem. Instantaneamente, o 'fulano' disse-me que sim e mostrou a estrofe em causa. 

Não porque eu saiba Os Lusíadas de cor mas porque a minha mente está formatada para validar o que me é apresentado, peguei nessa estrofe e googlei-a. Nada. Várias tentativas, incluindo noutros motores de busca. Nada. Cheguei à conclusão que aquela estrofe não era do conhecimento do google e, portanto, provavelmente nem sequer existia nem nos Lusíadas nem em lado nenhum. Ou seja, aconteceu ao ChatGPT aquilo que se designa por alucinações. O 'fulano' inventou, ele próprio, uma estrofe. Mas inventou-a ao jeito das restantes dos Lusíadas e ainda se 'se deu ao luxo' de dissertar sobre ela. Se eu não tenho ido validar, acreditava e usava-a e depois ficava na net e qualquer dia alguém mais estava a copiá-la e, às tantas, já ninguém sabia dizer ao certo se sim ou não era genuinamente parte integrante de Os Lusíadas. E isto é um simples e inofensivo exemplo.

Transcrevo o meu diálogo com o Chat GPT para que possam apreciar:

UJM

Há alguma estrofe dos Lusíadas em que se fala de crianças?

ChatGPT

Sim, há uma estrofe nos Lusíadas, de Luís de Camões, onde se faz menção a crianças. No Canto VII, estrofe 37, Camões descreve a ilha de Moçambique e menciona as crianças africanas que viviam lá. Segue a estrofe:

     Mas aqueles meninos, que largados

     Estavam pelas praias, incitados

     Da curiosidade natural,

     Vendo as naus, que os mares têm navegados,

     Seu vão temor deixam, e co' o sinal

     Da nova gente, vão saltando a praia,

     E com infantil gosto, e brando riso,

     Os novos lusitanos vão vendo,

     Da cor do rosto seus corpos cobrindo.

Nesse trecho, Camões descreve como as crianças abandonam seu medo inicial e se aproximam dos marinheiros portugueses com curiosidade e alegria infantil, observando os novos visitantes e cobrindo seus corpos com a cor do rosto, referindo-se à cor da pele.

UJM

De certeza? Não encontro isso n' Os Lusíadas.

ChatGPT

Peço desculpas pelo equívoco. Verifiquei novamente e percebi que me enganei. Não há uma referência direta a crianças nos Lusíadas. Peço desculpas pela informação incorreta anteriormente fornecida.

Os Lusíadas são um poema épico que narra as viagens dos navegadores portugueses e sua jornada até as Índias. Embora Camões mencione vários aspectos geográficos, históricos e culturais, incluindo diferentes povos e costumes, não há uma menção específica a crianças ao longo da obra.

Lamento pelo erro e agradeço por trazer isso à minha atenção. Se você tiver outras perguntas ou precisar de informações adicionais, estou aqui para ajudar.

__________________________________________________________________________

What is AI and why are experts terrified about its future? | 60 Minutes Australia

This week, in a first for the program, Tom Steinfort interviews a robot. Ameca, as it likes to be called, is the most advanced lifelike robot in the world. A marvel of generative artificial intelligence, it’s curious, chatty and full of attitude.

As Steinfort discovers, this super machine really does have a mind of its own. But while having a normal conversation with it is undoubtedly exciting, it is also just as frightening. And that’s because creating technology that allows AI bots like Ameca to be smarter than us might just be the most stupid thing humans have ever done.

______    ___________   ______

Uma boa semana a começar já por esta segunda-feira

Saúde. Boa sorte. Alegria. Paz.