Durante a conferência re:Invent 2024 em Las Vegas, a Amazon Web Services (AWS) anunciou o lançamento do Automated Reasoning checks, um novo serviço destinado a combater as alucinações em modelos de IA, que são respostas não confiáveis ou imprecisas geradas por algoritmos. A ferramenta, que valida as respostas de um modelo por meio da verificação de informações fornecidas pelo cliente, é descrita pela AWS como a "primeira" e "única" salvaguarda contra alucinações.

Entretanto, especialistas apontam que o Automated Reasoning checks é bastante similar ao recurso Correction lançado pela Microsoft, que também busca identificar textos gerados por IA que possam ser factualmente errôneos. Além disso, o Google já oferece uma funcionalidade no Vertex AI que permite a validação de dados por meio de fontes externas. Diante disso, a AWS deve demonstrar a eficácia e a confiabilidade de sua nova ferramenta para realmente se destacar no mercado.

O funcionamento do Automated Reasoning checks permite que os clientes façam upload de informações para estabelecer uma "verdade fundamental", e a ferramenta cria regras que podem ser refinadas para avaliar se as respostas geradas pelo modelo estão corretas. Em casos de alucinações, a ferramenta consulta a verdade fundamental para fornecer a resposta correta ao lado da resposta incorreta, oferecendo transparência para o cliente.

1. Automated Reasoning checks valida respostas de modelos de IA.

2. A ferramenta é similar a soluções já existentes de Microsoft e Google.

3. Requer que clientes forneçam dados para estabelecer uma verdade fundamental.

4. É um esforço para aumentar a confiança em IA generativa.

5. A AWS também lançou o Model Distillation para transferir capacidades entre modelos.

As inovações da AWS, como o Model Distillation, que permite a transferência de capacidades entre modelos grandes e pequenos, e a nova funcionalidade de colaboração entre múltiplos agentes para atribuir tarefas de IA em projetos, visam facilitar o uso prático da IA em diferentes cenários. Contudo, especialistas sublinham a dificuldade em erradicar completamente as alucinações, comparando essa tarefa à remoção de hidrogênio da água.

Com a introdução do Automated Reasoning checks, a AWS tenta liderar o desenvolvimento de ferramentas que promovem maior confiança em aplicações de IA generativa. Entretanto, o verdadeiro teste será a eficácia dessa ferramenta em ambientes reais, onde as alucinações ainda podem ser um desafio significativo. Fique atento a mais atualizações sobre este tema, inscreva-se em nossa newsletter para conteúdos diários e saiba mais sobre as últimas inovações em inteligência artificial.

FONTES:

1. TechCrunch

2. TechCrunch (Correção)

3. TechCrunch (Google Gemini AI)

4. TechCrunch (Model Distillation)

5. TechCrunch (AWS Bedrock Agents)