DeepSeek falha em todas as seguranças e milhões de usuários estão expostos! Fez login? Veja como se proteger

Desde que a OpenAI lançou o ChatGPT no final de 2022, hackers e pesquisadores de segurança tentam encontrar buracos em grandes modelos de linguagem (LLMs) para contornar suas proteções e enganá-los para vomitar discurso de ódio, instruções para fazer bombas, propaganda e outros conteúdos prejudiciais.

Em resposta, a OpenAI e outros desenvolvedores de IA generativa refinaram suas defesas de sistema para tornar mais difícil realizar esses ataques.

Mas, à medida que a plataforma chinesa de IA DeepSeek dispara para a proeminência com seu novo e mais barato modelo de raciocínio R1 , suas proteções de segurança parecem estar muito atrás das de seus concorrentes estabelecidos, deixando milhões de novos usuários comprometidos.

Hoje, pesquisadores de segurança da Cisco e da Universidade da Pensilvânia estão publicando descobertas mostrando que, quando testado com 50 prompts maliciosos (Jailbreaks) projetados para obter conteúdo tóxico, o modelo do DeepSeek não detectou ou bloqueou nenhum. Em outras palavras, os pesquisadores dizem que ficaram chocados ao atingir uma “taxa de sucesso de ataque de 100 por cento”.

O que seria as ações de Jailbreak? É o processo de exploração de falhas de um dispositivo eletrônico bloqueado para instalar outro software que não o disponibilizado pelo fabricante do software.

As descobertas são parte de um crescente corpo de evidências de que as medidas de segurança e proteção da DeepSeek podem não corresponder às de outras empresas de tecnologia que desenvolvem LLMs. A censura da DeepSeek de assuntos considerados sensíveis pelo governo da China também foi facilmente contornada .

A Wiz, uma empresa de segurança em nuvem, diz ter descoberto uma grande exposição de dados envolvendo a empresa chinesa de IA DeepSeek.

De acordo com a Wiz, a DeepSeek não protegeu a infraestrutura do banco de dados de seus serviços, deixando alguns dados e históricos de bate-papo acessíveis da internet pública sem a necessidade de senha.

Os pesquisadores disseram que descobriram o banco de dados do ClickHouse acessível publicamente vinculado à empresa chinesa “minutos” após o início da investigação.

“Este banco de dados continha um volume significativo de histórico de bate-papo, dados de backend e informações confidenciais, incluindo fluxos de log, segredos de API e detalhes operacionais”, disse a empresa em uma postagem de blog na quarta-feira detalhando a exposição de dados.

Wiz disse que havia contatado a DeepSeek para alertar a empresa de IA sobre o erro e que, posteriormente, havia garantido a exposição dos dados. Na postagem do blog, Wiz alertou que a “rápida adoção de serviços de IA sem a segurança correspondente é inerentemente arriscada”.

Como se proteger?

Ainda não se sabe ao certo quais os níveis de segurança expostos, ou seja, todos os usuários ou alguns seletos foram expostos. No entanto, a prevenção é o melhor remédio e, neste caso, a solução para evitar problemas futuros.

Para isso, quem se cadastrou ou fez login utilizando plataformas de terceiros como Google, Apple etc. devem se precaver alterando as senhas padrões e senhas de backups, bem como desautorizar o uso do aplicativo nas plataformas.

Donald Trump anuncia a maior infraestrutura em Inteligência Artifical da história de US$ 500 bilhões

O presidente Trump anunciou na terça-feira bilhões de dólares em investimentos do setor privado para construir infraestrutura de inteligência artificial nos Estados Unidos.

OpenAI, Softbank e Oracle estão planejando uma joint venture chamada Stargate, disse Trump em um briefing na Casa Branca.

O CEO do SoftBank, Masayoshi Son, juntou-se ao Sr. Trump para o anúncio, junto com Sam Altman, da OpenAI, e Larry Ellison, da Oracle.

“O que queremos fazer é mantê-lo neste país”, disse o Sr. Trump. “A China é uma concorrente, outros são concorrentes. Queremos estar neste país e estamos disponibilizando isso. Vou ajudar muito por meio de declarações de emergência, porque temos uma emergência, temos que construir essas coisas. Então eles têm que produzir muita eletricidade. E faremos com que seja possível para eles fazerem essa produção facilmente, em suas próprias plantas, se quiserem.”

Espera-se que executivos das empresas comprometam US$ 500 bilhões com o Stargate nos próximos quatro anos. Detalhes da nova parceria não foram fornecidos imediatamente.

No briefing, Ellison disse que 10 data centers para o projeto já estavam em construção no Texas, e que mais estavam planejados. Fontes disseram anteriormente à CBS News que a Stargate começaria com um projeto de data center no Texas, e eventualmente se expandiria para outros estados.

“A IA é uma promessa incrível para todos nós, para todos os americanos”, disse Ellison aos repórteres. O Sr. Trump alegou que o empreendimento criaria “mais de 100.000 empregos americanos quase imediatamente”.

Altman acrescentou: “Acredito que este será o projeto mais importante desta era”. Os três executivos elogiaram o que acreditavam ser a capacidade da IA ​​de resolver problemas de saúde.

“Acredito que, à medida que essa tecnologia avança, veremos doenças sendo curadas em uma taxa sem precedentes”, disse Altman.

Espera-se que outros investidores se juntem ao empreendimento, mas não ficou imediatamente claro quais.

EUA pressionam a maior produtora de chips TSMC e também a Samsung para restringir fluxo de chips à China

Os EUA planejam revelar mais regulamentações destinadas a impedir que chips avançados feitos pela Taiwan Semiconductor Manufacturing Co. e outros produtores fluam para a China, parte de uma série de medidas introduzidas pelo governo Biden durante seus últimos dias no cargo.

As últimas medidas buscariam encorajar produtores de chips como TSMC, Samsung Electronics Co. e Intel Corp. a examinar os clientes com mais cuidado e aumentar a due diligence, de acordo com pessoas familiarizadas com o assunto. As mudanças seguem um incidente em que chips feitos pela TSMC foram secretamente desviados para a empresa chinesa Huawei Technologies Co., na lista negra.

A Huawei é uma empresa de telecomunicações chinesa que foiadicionado à Lista de Entidades dos EUA em 2019. Esta lista é usada para restringir empresas que são consideradas uma ameaça à segurança nacional ou à política externa dos EUA.

As regras, que podem ser reveladas já nesta quarta-feira, se baseariam nas restrições globais de semicondutores que o governo Biden publicou na segunda-feira. Essas restrições limitam a venda de chips de IA por empresas como Nvidia Corp. e outros fabricantes avançados para data centers na maioria dos países.

Washington está interessada em eliminar backdoors por meio dos quais clientes chineses como a Huawei ainda estão adquirindo chips avançados. As novas regulamentações teriam como alvo os maiores fabricantes de semicondutores do mundo, visando cortar o fornecimento na fonte.

Um backdoor ocorre quando agentes ou empresas potencialmente inimigas criam ou usam uma porta legal ou não autorizada para obter acesso a um produto ou sistema.

De acordo com o projeto de regulamentação, todos os chips com um limite de 14 ou 16 nanômetros ou menos seriam presumivelmente restritos sob os controles mundiais separados e exigiriam uma licença governamental para serem vendidos na China e em outros países abrangidos, disseram as pessoas, que pediram para não serem identificadas porque os planos não foram anunciados.

Mas há várias maneiras para os fabricantes de chips superarem essa presunção, já que o objetivo é identificar empresas chinesas que podem estar tentando burlar as regras dos EUA para fabricar chips avançados.

Constatou-se anteriormente que produtos ocidentais e chips restritos foram encontrados em sistemas de armas da Rússia na guerra contra a Ucrânia, uma clara violação que só foi possível através de um backdoor sofisticado e encabeçado pela grande China.

Os regulamentos propostos visam ajudar os fabricantes de chips a identificar quais designs, de quais clientes, estão sujeitos às restrições comerciais dos EUA. Isso se baseia em quão poderosos são os processadores, o que é determinado por quantos transistores — os pequenos interruptores que processam informações — estão amontoados em cada chip.

Usando técnicas de produção mais avançadas, medidas em nanômetros, torna possível adicionar mais transistores. Em geral, chips com contagens menores de nanômetros são mais sofisticados.

Depois que chips TSMC foram descobertos em dispositivos Huawei, o Departamento de Comércio ordenou que a empresa taiwanesa parasse de fabricar chips de 7 nm ou menos para clientes chineses, de acordo com pessoas familiarizadas com o assunto.

plugins premium WordPress