DeepMind e Hugging Face Lançam SynthID: Uma Nova Ferramenta de Marcação para Textos Gerados por LLMs

Tecnologia Inteligência Artificial Inovação

A Google DeepMind, em parceria com a Hugging Face, apresentou o SynthID Text, uma ferramenta inovadora que marca e detecta textos gerados por grandes modelos de linguagem (LLMs), sem comprometer a qualidade das produções, conforme anunciado em 25 de outubro de 2024.

Generate a 2D, linear perspective image that represents the operation of a large language model (LLM) in a futuristic digital environment. The scene should contain visual elements representing the AI's marking on a text. The background should be dynamic with visual elements that evoke the idea of technology and innovation, all on a white and textureless background. Additional elements should include a marked text representing visually the marking in the generated content, a representation of an AI model which shows the base from where the text is generated, digital colors in shades of blue and green to convey technology and modernity and a data pathway that represents the interaction between the user and the model. The overall style should be vectorial, flat, and corporate.

Imagem gerada utilizando Dall-E 3

O SynthID Text é uma ferramenta desenvolvida para a marcação e identificação de textos gerados por LLMs, realizada através de um método que codifica uma marca d'água nos textos. Essa técnica, apresentada em um artigo publicado na revista Nature, tem como objetivo identificar qual modelo específico gerou o texto, sem alterar a operação do LLM ou a qualidade da saída.

O uso do SynthID não requer que os LLMs sejam retrainados, oferecendo uma flexibilidade de configuração nas forças de marcação e preservação da resposta. Esse sistema permite que empresas implementem configurações de marcação diferentes para cada modelo que utilizam, garantindo que essas configurações sejam armazenadas de forma segura.

Os pesquisadores da DeepMind demonstraram a eficácia do SynthID Text em um experimento que analisou feedback de quase 20 milhões de respostas geradas pelos modelos Gemini. O estudo saldo que a ferramenta mantém a qualidade das respostas enquanto permite a detecção pela classificação.

SynthID Text usa técnicas de modelagem generativa para evitar a alteração dos LLMs.
Permite a configuração de diferentes intensidades de marcação para diversos modelos.
Resistente a variações pós-geração, mas com limitações em respostas factuais.
A detecção é eficiente em termos computacionais.
É uma solução que atua em combinação com outras estratégias de segurança.

Embora o SynthID Text represente um avanço significativo, os pesquisadores observam suas limitações, como a ineficácia em textos que exigem respostas baseadas em fatos. Contudo, a ferramenta demonstra potencial para dificultar o uso malicioso de textos gerados por IA.

A introdução do SynthID Text promete transformar a maneira como o conteúdo gerado por IA é gerido e monitorado, oferecendo uma nova camada de segurança e autenticidade. Os leitores são encorajados a acompanhar as atualizações diárias em nossa newsletter para se manterem informados sobre as inovações em inteligência artificial e suas implicações no mundo moderno.