Profissionais de Segurança Apontam IA Generativa como Maior Risco para Organizações

AI para Segurança GenAI/LLMs Notícias/Análise

De acordo com dados revelados pela HackerOne, 48% dos profissionais de segurança acreditam que a IA é o maior risco de segurança para suas organizações. A pesquisa, que antecede o lançamento do relatório anual Hacker-Powered Security Report, destaca preocupações com vazamento de dados de treinamento, uso não autorizado de IA e hacking de modelos de IA.

Create a 2D corporate-style, vector image on a textured-free, white background. The primary illustration is of an AI robot encompassed by padlocks and shields, symbolizing data security and protection. In the background, there are data graphs, indicative of risk and security analysis. There is also a diverse group of security professionals, with a Black male, a Hispanic female, a Middle-Eastern male, and a Caucasian female, who are busily analyzing and monitoring the security. A large monitoring screen that signifies continuous vigilance and technology is also present in this setting.

Imagem gerada utilizando Dall-E 3

A HackerOne, líder em segurança impulsionada por humanos, divulgou que 48% dos profissionais de segurança identificam a IA como o maior risco de segurança para suas organizações. Entre as principais preocupações estão o vazamento de dados de treinamento (35%), o uso não autorizado de IA (33%) e o hacking de modelos de IA (32%).

Vazamento de dados de treinamento: 35%
Uso não autorizado de IA: 33%
Hacking de modelos de IA: 32%

Para lidar com esses desafios, 68% dos entrevistados acreditam que uma revisão externa e imparcial das implementações de IA é a maneira mais eficaz de identificar problemas de segurança e segurança da IA. A prática de 'red teaming' de IA, que envolve a comunidade global de pesquisadores de segurança, é uma das abordagens recomendadas.

- 68% defendem revisão externa e imparcial de IA - Comunidade global de pesquisadores de segurança é fundamental

Além disso, um relatório patrocinado pela HackerOne e conduzido pelo SANS Institute revelou que 58% dos entrevistados preveem que a IA pode contribuir para uma 'corrida armamentista' entre equipes de segurança e cibercriminosos. Apesar disso, 71% dos profissionais estão satisfeitos com a implementação de IA para automatizar tarefas tediosas, embora preocupações com campanhas de phishing e exploração de vulnerabilidades automatizadas permaneçam altas.

A pesquisa destaca a necessidade de um equilíbrio cuidadoso na implementação de IA, onde a automação de tarefas rotineiras pode aumentar a produtividade das equipes de segurança, mas também pode ser explorada por adversários. A revisão externa e o envolvimento da comunidade de pesquisadores são essenciais para mitigar os riscos associados à IA.