Questões de Português - Funções da Linguagem: emotiva, apelativa, referencial, metalinguística, fática e poética. para Concurso

Avanço da inteligência artificial abre debate sobre riscos da tecnologia

Descobertas preocupam empresas e governos, geram forte reação da sociedade e levam pesquisadores a buscar novas formas de controle.

Por Alessandro Giannini – Publicado em 7 abr 2023.

O bioquímico e escritor de ficção científica russo-americano Isaac Asimov (1920-1992) foi responsável por antecipar e popularizar, em meados do século XX, o conceito de inteligência artificial – IA na literatura. Influenciado pela emergente corrida espacial e pela ebulição tecnológica de seu tempo, Asimov explorou temas como moralidade, ética e as consequências da inovação para a humanidade. No livro Eu, Robô, lançado em 1950, ele reúne nove contos que mostram a evolução dos autômatos ao longo do tempo. Os enredos se passam em um mundo no qual uma série de regras, chamadas “Três Leis da Robótica”, protegem os seres humanos das máquinas. Visionário, Asimov anteviu em sua obra os temores expressos na carta divulgada há alguns dias pelo Future of Life Institute, organização que busca reduzir o risco de grandes tecnologias para a humanidade. Com milhares de assinaturas, a missiva pede aos laboratórios de pesquisa que parem imediatamente o desenvolvimento dos modelos de inteligência artificial – IA, que estariam se tornando perigosamente ativos na realização de tarefas mais complexas. “Esses sistemas só devem progredir quando estivermos confiantes de que seus efeitos serão positivos e seus riscos, gerenciáveis”, adverte o texto.

Subscrito por nomes insuspeitos do mundo digital, como Elon Musk, dono da Tesla e do Twitter, e Steve Wozniak, um dos fundadores da Apple, o documento se tornou um grande sinal de alerta. Entre os riscos descritos na mensagem estão a disseminação de propaganda falsa e desinformação, a potencial obsolescência humana e a perda do controle da civilização. Além do caráter alarmista, surpreende o fato de personagens cuja trajetória está diretamente ligada à inovação — Musk e Wozniak em especial — desejarem deter o avanço tecnológico. Se eles estão apreensivos com o desabrochar da inteligência artificial, imagina-se que algo realmente danoso possa nos atingir.

O temor tem crescido em intensidade e levou a reações em série de governos, empresas e organismos sociais. Na Europa, a Itália bloqueou o funcionamento do ChatGPT, aplicativo criado pela OpenAI que simula conversação humana. Segundo os italianos, o app viola a lei local de dados pessoais. França e Alemanha estão considerando seguir os mesmos passos do país vizinho. Na semana passada, o presidente americano Joe Biden se reuniu com seu conselho de consultores em ciência e tecnologia para debater os “riscos e oportunidades” envolvidos no campo da IA, agora aquecido pela competição aguerrida de conglomerados como as americanas Microsoft e Google e as chinesas Baidu e Tencent, entre outros gigantes. Uma das propostas na mesa seria regulamentar o setor. “A questão é que grupos relativamente pequenos, com recursos limitados, podem avançar a pesquisa nessas áreas”, disse a VEJA o brasileiro Marcelo Gleiser, físico, astrônomo e professor da Dartmouth College, nos EUA. “Portanto, a regulamentação torna-se muito complexa. Quem poderá garantir que as leis serão seguidas?”

A perspectiva histórica enriquece o debate. Quando se analisam com atenção as inovações do passado — as máquinas a vapor, a internet ou o sequenciamento de genomas, é importante observar que elas, especialmente em seu período de afirmação, foram alvo de questionamentos e consideradas perigosas para a humanidade. Contudo, todas se comportaram como o mito da Caixa de Pandora: uma vez aberta, seu conteúdo não pode mais ser contido. A mesma lógica vale para a inteligência artificial? Provavelmente, sim.

[...] Duvidar do potencial das novas tecnologias é típico do espírito humano. Em 1943, o então presidente da IBM, Thomas Watson, disse algo que se tornou risível com o passar dos anos: “Eu acredito que há mercado para talvez cinco computadores”. Em 1946, Darryl Zanuck, fundador do estúdio 20th Century Fox, declarou que “a televisão não vai conseguir se segurar no mercado por mais de seis meses”.

É fácil criticar o passado com os olhos do presente. Mais difícil talvez seja compreender o potencial disruptivo de uma tecnologia e dimensionar seus riscos. Não são poucos os perigos associados à inteligência artificial. Entre os mais marcantes estão a concentração de poder nas mãos de poucas empresas, o desaparecimento de empregos pela automação de atividades, a disseminação descontrolada de ataques cibernéticos e o desenvolvimento de armas autônomas. [...] Mas há um aspecto vital que não pode ser ignorado: o econômico. O mercado de IA está avaliado em 142,3 bilhões de dólares e continua a avançar impulsionado pelo fluxo crescente dos investimentos que recebe. [...] Muitos cientistas, empresários e empreendedores argumentam que os benefícios da tecnologia superam os riscos embutidos nela. O bilionário e filantropo Bill Gates está entre os que pensam dessa maneira. Gates reconheceu e listou avanços gerados pela inteligência artificial que podem ser conquistados em campos como bem-estar social, educação e meio ambiente. Ao mesmo tempo, faz uma importante ponderação. Segundo ele, é imperativo garantir que todos — e não apenas os ricos — desfrutem da nova tecnologia.

Em linhas gerais, existem quatro níveis básicos de inteligência artificial. A primeira, a “fraca”, está associada a tarefas como trancar a porta do carro. No segundo patamar, chamado de “geral”, ela é aplicável a atividades automatizadas que quase não precisam de supervisão humana, como linhas de produção ou a gestão de lavouras. A terceira vertente, denominada “superinteligência artificial”, é usada em máquinas capazes de tomar decisões rápidas de forma quase autônoma, como os carros sem motorista. Recentemente, surgiu a “generativa”, capaz de criar textos, imagens, códigos de programação, vídeos ou qualquer outra linguagem natural, a partir de sistemas de aprendizado de máquina e grandes modelos de linguagem (LLM, na sigla em inglês). O aplicativo “aprende” a partir de buscas em bancos de dados abertos e também analisando os estímulos (“prompts”) alimentados pelos usuários.

Sucesso desde que foi lançado, no fim do ano passado, o ChatGPT conquistou corações e mentes ao responder a estímulos escritos dos usuários como se fosse uma pessoa real. A despeito dos tropeços iniciais, o chatbot, como é chamada a ferramenta criada pela empresa americana OpenAI, ganhou tração popular e atraiu a atenção da Microsoft. [...] É importante reconhecer que esses modelos de linguagem não são perfeitos e têm limitações, como produzir respostas incorretas e sem sentido, além de possíveis vieses.

Mais ou menos ao mesmo tempo, surgiram os geradores de imagens como DALL-E (também da OpenAI), Midjourney e Stable Diffusion, que produzem cenas realistas a partir de definições propostas pelos usuários. Os resultados são tão impressionantes que uma fotografia falsa do papa Francisco vestindo um sobretudo de tecido sintético acolchoado enganou até veículos especializados em moda. Imagens do ex-presidente americano Donald Trump sendo preso em Nova York e do presidente francês Emmanuel Macron atacando manifestantes em Paris rodaram a internet. [...] “Só há uma solução”, disse a VEJA o eng. de robótica israelense Hod Lipson, professor da Universidade Columbia e estudioso do assunto. “Você sempre pode gerar outra inteligência artificial para distinguir o real e o falso.”

A despeito da evolução das tecnologias associadas à inteligência artificial, é consenso entre especialistas e pesquisadores que a natureza humana e sua integridade devem prevalecer. Criador do conceito de realidade virtual e ferrenho crítico das redes sociais, o cientista da computação americano Jaron Lanier declarou recentemente, em tom jocoso, que o maior perigo desses aplicativos não é seu potencial destrutivo, mas a possibilidade de que “nos deixem loucos”. Também signatário da carta que defende um freio de arrumação na inteligência artificial, o historiador e escritor israelense Yuval Noah Harari afirma que avançar na sofisticação dos computadores “pode servir apenas para fortalecer a estupidez natural dos humanos”. As possibilidades são infinitas e, de fato, algumas são assustadoras. Mas a verdade é que a inteligência artificial já está entre nós — e esse é um movimento irreversível.

Adaptado https://veja.abril.com.br/tecnologia/avanco-da-inteligencia-artificial-abredebate-sobre-riscos-da-tecnologia

Luís Fernando Veríssimo

       Para começar, ele nos olha na cara. Não é como a máquina de escrever, que a gente olha de cima, com superioridade. Com ele é olho no olho ou tela no olho. Ele nos desafia. Parece estar dizendo: vamos lá, seu desprezível pré-eletrônico, mostre o que você sabe fazer. A máquina de escrever faz tudo que você manda, mesmo que seja a tapa. Com o computador é diferente. Você faz tudo que ele manda. Ou precisa fazer tudo ao modo dele, senão ele não aceita. Simplesmente ignora você. Mas se apenas ignorasse ainda seria suportável. Ele responde. Repreende. Corrige. Uma tela vazia, muda, nenhuma reação aos nossos comandos digitais, tudo bem. Quer dizer, você se sente como aquele cara que cantou a secretária eletrônica. É um vexame privado. Mas quando você o manda fazer alguma coisa, mas manda errado, ele diz “Errado”. Não diz “Burro”, mas está implícito. É pior, muito pior. Às vezes, quando a gente erra, ele faz “bip”. Assim, para todo mundo ouvir. Comecei a usar o computador na redação do jornal e volta e meia errava. E lá vinha ele: “Bip!” “Olha aqui, pessoal: ele errou.” “O burro errou!”

       Outra coisa: ele é mais inteligente que você. Sabe muito mais coisa e não tem nenhum pudor em dizer que sabe. Esse negócio de que qualquer máquina só é tão inteligente quanto quem a usa não vale com ele. Está subentendido, nas suas relações com o computador, que você jamais aproveitará metade das coisas que ele tem para oferecer. Que ele só desenvolverá todo o seu potencial quando outro igual a ele o estiver programando. A máquina de escrever podia ter recursos que você nunca usaria, mas não tinha a mesma empáfia, o mesmo ar de quem só aguentava os humanos por falta de coisa melhor, no momento. E a máquina, mesmo nos seus instantes de maior impaciência conosco, jamais faria “bip” em público.

     Dito isto, é preciso dizer também que quem provou pela primeira vez suas letrinhas dificilmente voltará à máquina de escrever sem a sensação de que está desembarcando de uma Mercedes e voltando à carroça. Está certo, jamais teremos com ele a mesma confortável cumplicidade que tínhamos com a velha máquina. É outro tipo de relacionamento, mais formal e exigente. Mas é fascinante. Agora compreendo o entusiasmo de gente como Millôr Fernandes e Fernando Sabino, que dividem a sua vida profissional em antes dele e depois dele. Sinto falta do papel e da fiel Bic, sempre pronta a inserir entre uma linha e outra a palavra que faltou na hora, e que nele foi substituída por um botão, que, além de mais rápido, jamais nos sujará os dedos, mas acho que estou sucumbindo. Sei que nunca seremos íntimos, mesmo porque ele não ia querer se rebaixar a ser meu amigo, mas retiro tudo o que pensei sobre ele. Claro que você pode concluir que eu só estou querendo agradá-lo, precavidamente, mas juro que é sincero.

   

     Quando saí da redação do jornal depois de usar o computador pela primeira vez, cheguei em casa e bati na minha máquina. Sabendo que ela aguentaria sem reclamar, como sempre, a pobrezinha.

Disponível em: https://www.cronicasdacidade.com.br/tag/tecnologia. Acesso em 2 de janeiro de 2023.

WWF. As mudanças climáticas. Disponível em: https://www.wwf.org.br/natureza_brasileira/reducao_de_ impactos2/clima/mudancas_climaticas2. [Adaptado]. Acesso em: 18 jan. 2023.