DeepSeek falha em todas as seguranças e milhões de usuários estão expostos! Fez login? Veja como se proteger

Desde que a OpenAI lançou o ChatGPT no final de 2022, hackers e pesquisadores de segurança tentam encontrar buracos em grandes modelos de linguagem (LLMs) para contornar suas proteções e enganá-los para vomitar discurso de ódio, instruções para fazer bombas, propaganda e outros conteúdos prejudiciais.

Em resposta, a OpenAI e outros desenvolvedores de IA generativa refinaram suas defesas de sistema para tornar mais difícil realizar esses ataques.

Mas, à medida que a plataforma chinesa de IA DeepSeek dispara para a proeminência com seu novo e mais barato modelo de raciocínio R1 , suas proteções de segurança parecem estar muito atrás das de seus concorrentes estabelecidos, deixando milhões de novos usuários comprometidos.

Hoje, pesquisadores de segurança da Cisco e da Universidade da Pensilvânia estão publicando descobertas mostrando que, quando testado com 50 prompts maliciosos (Jailbreaks) projetados para obter conteúdo tóxico, o modelo do DeepSeek não detectou ou bloqueou nenhum. Em outras palavras, os pesquisadores dizem que ficaram chocados ao atingir uma “taxa de sucesso de ataque de 100 por cento”.

O que seria as ações de Jailbreak? É o processo de exploração de falhas de um dispositivo eletrônico bloqueado para instalar outro software que não o disponibilizado pelo fabricante do software.

As descobertas são parte de um crescente corpo de evidências de que as medidas de segurança e proteção da DeepSeek podem não corresponder às de outras empresas de tecnologia que desenvolvem LLMs. A censura da DeepSeek de assuntos considerados sensíveis pelo governo da China também foi facilmente contornada .

A Wiz, uma empresa de segurança em nuvem, diz ter descoberto uma grande exposição de dados envolvendo a empresa chinesa de IA DeepSeek.

De acordo com a Wiz, a DeepSeek não protegeu a infraestrutura do banco de dados de seus serviços, deixando alguns dados e históricos de bate-papo acessíveis da internet pública sem a necessidade de senha.

Os pesquisadores disseram que descobriram o banco de dados do ClickHouse acessível publicamente vinculado à empresa chinesa “minutos” após o início da investigação.

“Este banco de dados continha um volume significativo de histórico de bate-papo, dados de backend e informações confidenciais, incluindo fluxos de log, segredos de API e detalhes operacionais”, disse a empresa em uma postagem de blog na quarta-feira detalhando a exposição de dados.

Wiz disse que havia contatado a DeepSeek para alertar a empresa de IA sobre o erro e que, posteriormente, havia garantido a exposição dos dados. Na postagem do blog, Wiz alertou que a “rápida adoção de serviços de IA sem a segurança correspondente é inerentemente arriscada”.

Como se proteger?

Ainda não se sabe ao certo quais os níveis de segurança expostos, ou seja, todos os usuários ou alguns seletos foram expostos. No entanto, a prevenção é o melhor remédio e, neste caso, a solução para evitar problemas futuros.

Para isso, quem se cadastrou ou fez login utilizando plataformas de terceiros como Google, Apple etc. devem se precaver alterando as senhas padrões e senhas de backups, bem como desautorizar o uso do aplicativo nas plataformas.

Marinha dos EUA sai na frente e proíbe uso da plataforma DeepSeek devido a “preocupações éticas e de segurança”

A Marinha dos EUA instruiu seus membros a evitar o uso da tecnologia de inteligência artificial da DeepSeek da China, apurou a CNBC.

Em um aviso emitido por e-mail aos “companheiros de bordo” na sexta-feira, a Marinha disse que a IA da DeepSeek não deveria ser usada “em nenhuma capacidade” devido a “possíveis preocupações éticas e de segurança associadas à origem e ao uso do modelo”.

Um porta-voz da Marinha dos EUA confirmou a autenticidade do e-mail e disse que ele se referia à política de IA generativa do Diretor de Informações do Departamento da Marinha.

O anúncio seguiu o lançamento do DeepSeek de seu novo e poderoso modelo de raciocínio de IA chamado R1, que rivaliza com a tecnologia da OpenAI. O modelo DeepSeek é de código aberto, o que significa que qualquer desenvolvedor de IA pode usá-lo.

O aplicativo DeepSeek chegou ao topo da lista da Apple Store e destronou o ChatGPT da OpenAI e pessoas do setor elogiaram seu desempenho e capacidade de raciocínio.

Os pronunciamentos da DeepSeek abalaram os mercados de capital na segunda-feira devido a preocupações de que futuros produtos de IA exigirão infraestrutura menos dispendiosa do que Wall Street supôs.

A DeepSeek disse no final de dezembro que seu grande modelo de linguagem levou apenas dois meses e menos de US$ 6 milhões para ser construído, apesar dos EUA terem restringido as exportações de chips para a China três vezes em três anos. Isso é uma pequena fração do valor gasto pela OpenAI, Anthropic, Google e outros.

O presidente Donald Trump , que assumiu o cargo na última segunda-feira, disse que a ascensão repentina do DeepSeek “deveria ser um alerta” para as empresas de tecnologia dos Estados Unidos.

Trump está atualmente tentando manter o aplicativo de mídia social chinês TikTok vivo nos EUA, depois que os legisladores determinaram que o serviço deve ser banido ou vendido devido a preocupações com a segurança nacional. Trump era a favor de banir o TikTok em sua primeira administração antes de mudar de ideia sobre o assunto.

Donald Trump anuncia a maior infraestrutura em Inteligência Artifical da história de US$ 500 bilhões

O presidente Trump anunciou na terça-feira bilhões de dólares em investimentos do setor privado para construir infraestrutura de inteligência artificial nos Estados Unidos.

OpenAI, Softbank e Oracle estão planejando uma joint venture chamada Stargate, disse Trump em um briefing na Casa Branca.

O CEO do SoftBank, Masayoshi Son, juntou-se ao Sr. Trump para o anúncio, junto com Sam Altman, da OpenAI, e Larry Ellison, da Oracle.

“O que queremos fazer é mantê-lo neste país”, disse o Sr. Trump. “A China é uma concorrente, outros são concorrentes. Queremos estar neste país e estamos disponibilizando isso. Vou ajudar muito por meio de declarações de emergência, porque temos uma emergência, temos que construir essas coisas. Então eles têm que produzir muita eletricidade. E faremos com que seja possível para eles fazerem essa produção facilmente, em suas próprias plantas, se quiserem.”

Espera-se que executivos das empresas comprometam US$ 500 bilhões com o Stargate nos próximos quatro anos. Detalhes da nova parceria não foram fornecidos imediatamente.

No briefing, Ellison disse que 10 data centers para o projeto já estavam em construção no Texas, e que mais estavam planejados. Fontes disseram anteriormente à CBS News que a Stargate começaria com um projeto de data center no Texas, e eventualmente se expandiria para outros estados.

“A IA é uma promessa incrível para todos nós, para todos os americanos”, disse Ellison aos repórteres. O Sr. Trump alegou que o empreendimento criaria “mais de 100.000 empregos americanos quase imediatamente”.

Altman acrescentou: “Acredito que este será o projeto mais importante desta era”. Os três executivos elogiaram o que acreditavam ser a capacidade da IA ​​de resolver problemas de saúde.

“Acredito que, à medida que essa tecnologia avança, veremos doenças sendo curadas em uma taxa sem precedentes”, disse Altman.

Espera-se que outros investidores se juntem ao empreendimento, mas não ficou imediatamente claro quais.

plugins premium WordPress