A IA generativa expandiu bastante o kit de ferramentas disponíveis para hackers e outros maus atores. Agora é possível fazer de tudo, desde o DeepFaking um CEO até a criação de recibos falsos.
O Openai, a maior startup generativa de IA de todos, sabe disso melhor do que ninguém. E acaba de investir em outra startup de IA que ajuda as empresas a se defender contra esse tipo de ataque.
A Adaptive Security, com sede em Nova York, levantou um co-liderado pela Série A de US $ 43 milhões pelo Fundo de Startups da Openai e Andreessen Horowitz, anunciou quarta-feira. Isso marca o primeiro investimento da Openai em uma startup de segurança cibernética, o OpenAI confirmou ao TechCrunch.
A segurança adaptativa simula “hacks” gerados pela IA para treinar funcionários para identificar essas ameaças. Você pode pegar o telefone para ouvir a voz do seu CTO solicitando um código de verificação. Esse não seria o seu CTO real, mas uma paródia gerada pela segurança adaptativa.
A plataforma da Adaptive Security não apenas falsifica as chamadas telefônicas: ela também abrange textos e e -mails, enquanto obtém quais partes de uma empresa podem ser mais vulneráveis e a equipe de treinamento para identificar os riscos.
A startup se concentra em hacks que exigem que um funcionário humano faça algo que não deve, como clicar em um link ruim. Esses tipos de hacks de “engenharia social”, embora básicos, levaram a enormes perdas – pense no Axie Infinity, que perdeu mais de US $ 600 milhões devido a uma oferta falsa de emprego para um de seus desenvolvedores em 2022.
As ferramentas de IA tornaram os hacks de engenharia social mais fáceis do que nunca, disse o co-fundador e CEO Brian Long ao TechCrunch. Lançado em 2023, o Adaptive agora tem mais de 100 clientes, com um longo feedback positivo deles ajudou a atrair o OpenAI para a tabela de bonés.
Não dói por muito tempo é um empresário veterano com dois sucessos anteriores: startup de anúncios para celular TapCommerce, que ele vendeu para o Twitter em 2014 (supostamente por mais de US $ 100 milhões) e a empresa de acesso à Tech ATTENCE, que foi avaliada pela última vez em mais de US $ 10 bilhões em 2021, de acordo com um de seus investidores.
Long disse ao TechCrunch que a segurança adaptativa usará seu mais recente financiamento principalmente em contratação de engenheiros para construir seu produto e acompanhar a “corrida armamentista” da IA contra maus atores.
A segurança adaptativa se une a uma longa lista de outras startups cibernéticas que trabalham no boom em ameaças de IA. A Cyberhaven arrecadou US $ 100 milhões em uma avaliação de US $ 1 bilhão para ajudar a impedir a equipe de colocar informações confidenciais em ferramentas como o ChatGPT, informou a Forbes. Também há Snyk, que credita parcialmente o aumento do código inseguro gerado pela IA por ajudar a empurrar seu ARR ao norte de US $ 300 milhões. E a startup de detecção de Deepfake GetReal arrecadou US $ 17,5 milhões no mês passado.
À medida que as ameaças de IA se tornam mais sofisticadas, Long tem uma dica simples para os funcionários da empresa preocupados em obter sua voz clonada por hackers. “Exclua seu correio de voz”, ele recomenda.