Enfrentamos um dilema crucial: saber quando é melhor ser au...

O texto seguinte servirá de base para responder à questão.

O que esperar da inteligência artificial em 2025

A inteligência artificial (IA) tornou-se um instrumento fundamental para se enfrentar grandes desafios científicos. Áreas como saúde, astronomia e exploração espacial, neurociência ou mudanças climáticas, entre outras, irão se beneficiar ainda mais no futuro.

O programa AlphaFold — desenvolvido pelo grupo Alphabet, do Google, e que ganhou o Prêmio Nobel em 2024 — determinou a estrutura tridimensional de 200 milhões de proteínas.

Seu desenvolvimento representa um avanço significativo na Biologia Molecular e na Medicina. Isso facilita a concepção de novos medicamentos e tratamentos. Em 2025, esse processo começará e com acesso gratuito ao AlphaFold para aqueles responsáveis pelo desenvolvimento de remédios e tratamentos medicinais.

A rede ClimateNet utilizará circuitos neurais artificiais para realizar análises espaciais precisas de grandes volumes de dados climáticos, imprescindíveis para compreender e mitigar o aquecimento global.

A utilização do ClimateNet será essencial em 2025 na prevenção de eventos climáticos extremos com maior exatidão.

Agentes autônomos de IA baseados em modelos de linguagem são a meta para 2025 de grandes empresas de tecnologia como OpenAI (ChatGPT), Meta (LLaMA), Google (Gemini) e Anthropic (Claude).

Até agora, estes sistemas de IA fazem recomendações. Em 2025, no entanto, espera-se que eles tomem decisões por nós.

Os agentes de IA realizarão ações personalizadas e precisas em tarefas que não sejam de alto risco, sempre ajustadas às necessidades e preferências do usuário. Por exemplo: comprar uma passagem de ônibus, atualizar a agenda, recomendar uma compra específica e executá-la.

Eles também poderão responder nosso e-mail — tarefa que nos toma muito tempo diariamente.

Nessa linha, a OpenAI lançou o AgentGPT e o Google lançou o Gemini 2.0. Essas plataformas são usadas para o desenvolvimento de agentes autônomos de IA.

A noção de agentes autônomos levanta questões profundas sobre o conceito de "autonomia humana e controle humano".

O que significa realmente "autonomia"?

Esses agentes de IA criarão a necessidade de pré-aprovação. Quais decisões permitiremos que estas entidades tomem sem a nossa aprovação direta (sem controle humano)?

Enfrentamos um dilema crucial: saber quando é melhor ser "automático" na utilização de agentes autônomos de IA e quando é necessário tomar a decisão, ou seja, recorrer ao "controle humano" ou à "interação humano-IA".

O conceito de pré-aprovação ganhará enorme relevância na utilização de agentes autônomos de IA.

Portanto, precisamos de regulamentação. Isso proporciona o equilíbrio necessário para o desenvolvimento de uma IA confiável e responsável e avançar nos grandes desafios para o bem da humanidade.

https://www.bbc.com/portuguese/articles/c2kx2e74jyxo.adaptado.