DeepSeek falha em todas as seguranças e milhões de usuários estão expostos! Fez login? Veja como se proteger

Desde que a OpenAI lançou o ChatGPT no final de 2022, hackers e pesquisadores de segurança tentam encontrar buracos em grandes modelos de linguagem (LLMs) para contornar suas proteções e enganá-los para vomitar discurso de ódio, instruções para fazer bombas, propaganda e outros conteúdos prejudiciais.

Em resposta, a OpenAI e outros desenvolvedores de IA generativa refinaram suas defesas de sistema para tornar mais difícil realizar esses ataques.

Mas, à medida que a plataforma chinesa de IA DeepSeek dispara para a proeminência com seu novo e mais barato modelo de raciocínio R1 , suas proteções de segurança parecem estar muito atrás das de seus concorrentes estabelecidos, deixando milhões de novos usuários comprometidos.

Hoje, pesquisadores de segurança da Cisco e da Universidade da Pensilvânia estão publicando descobertas mostrando que, quando testado com 50 prompts maliciosos (Jailbreaks) projetados para obter conteúdo tóxico, o modelo do DeepSeek não detectou ou bloqueou nenhum. Em outras palavras, os pesquisadores dizem que ficaram chocados ao atingir uma “taxa de sucesso de ataque de 100 por cento”.

O que seria as ações de Jailbreak? É o processo de exploração de falhas de um dispositivo eletrônico bloqueado para instalar outro software que não o disponibilizado pelo fabricante do software.

As descobertas são parte de um crescente corpo de evidências de que as medidas de segurança e proteção da DeepSeek podem não corresponder às de outras empresas de tecnologia que desenvolvem LLMs. A censura da DeepSeek de assuntos considerados sensíveis pelo governo da China também foi facilmente contornada .

A Wiz, uma empresa de segurança em nuvem, diz ter descoberto uma grande exposição de dados envolvendo a empresa chinesa de IA DeepSeek.

De acordo com a Wiz, a DeepSeek não protegeu a infraestrutura do banco de dados de seus serviços, deixando alguns dados e históricos de bate-papo acessíveis da internet pública sem a necessidade de senha.

Os pesquisadores disseram que descobriram o banco de dados do ClickHouse acessível publicamente vinculado à empresa chinesa “minutos” após o início da investigação.

“Este banco de dados continha um volume significativo de histórico de bate-papo, dados de backend e informações confidenciais, incluindo fluxos de log, segredos de API e detalhes operacionais”, disse a empresa em uma postagem de blog na quarta-feira detalhando a exposição de dados.

Wiz disse que havia contatado a DeepSeek para alertar a empresa de IA sobre o erro e que, posteriormente, havia garantido a exposição dos dados. Na postagem do blog, Wiz alertou que a “rápida adoção de serviços de IA sem a segurança correspondente é inerentemente arriscada”.

Como se proteger?

Ainda não se sabe ao certo quais os níveis de segurança expostos, ou seja, todos os usuários ou alguns seletos foram expostos. No entanto, a prevenção é o melhor remédio e, neste caso, a solução para evitar problemas futuros.

Para isso, quem se cadastrou ou fez login utilizando plataformas de terceiros como Google, Apple etc. devem se precaver alterando as senhas padrões e senhas de backups, bem como desautorizar o uso do aplicativo nas plataformas.

Marinha dos EUA sai na frente e proíbe uso da plataforma DeepSeek devido a “preocupações éticas e de segurança”

A Marinha dos EUA instruiu seus membros a evitar o uso da tecnologia de inteligência artificial da DeepSeek da China, apurou a CNBC.

Em um aviso emitido por e-mail aos “companheiros de bordo” na sexta-feira, a Marinha disse que a IA da DeepSeek não deveria ser usada “em nenhuma capacidade” devido a “possíveis preocupações éticas e de segurança associadas à origem e ao uso do modelo”.

Um porta-voz da Marinha dos EUA confirmou a autenticidade do e-mail e disse que ele se referia à política de IA generativa do Diretor de Informações do Departamento da Marinha.

O anúncio seguiu o lançamento do DeepSeek de seu novo e poderoso modelo de raciocínio de IA chamado R1, que rivaliza com a tecnologia da OpenAI. O modelo DeepSeek é de código aberto, o que significa que qualquer desenvolvedor de IA pode usá-lo.

O aplicativo DeepSeek chegou ao topo da lista da Apple Store e destronou o ChatGPT da OpenAI e pessoas do setor elogiaram seu desempenho e capacidade de raciocínio.

Os pronunciamentos da DeepSeek abalaram os mercados de capital na segunda-feira devido a preocupações de que futuros produtos de IA exigirão infraestrutura menos dispendiosa do que Wall Street supôs.

A DeepSeek disse no final de dezembro que seu grande modelo de linguagem levou apenas dois meses e menos de US$ 6 milhões para ser construído, apesar dos EUA terem restringido as exportações de chips para a China três vezes em três anos. Isso é uma pequena fração do valor gasto pela OpenAI, Anthropic, Google e outros.

O presidente Donald Trump , que assumiu o cargo na última segunda-feira, disse que a ascensão repentina do DeepSeek “deveria ser um alerta” para as empresas de tecnologia dos Estados Unidos.

Trump está atualmente tentando manter o aplicativo de mídia social chinês TikTok vivo nos EUA, depois que os legisladores determinaram que o serviço deve ser banido ou vendido devido a preocupações com a segurança nacional. Trump era a favor de banir o TikTok em sua primeira administração antes de mudar de ideia sobre o assunto.

Google Maps se prepara para mudar o nome do Golfo do México para “Golfo da América” sob ordens de Trump

O Google está cumprindo a ação executiva do presidente Donald Trump que renomeou o Golfo do México para Golfo da América. Em breve, a mudança de nome aparecerá no Google Maps.

Em uma publicação no X, o Google explicou que tem uma “prática de longa data de aplicar mudanças de nome quando elas são atualizadas em fontes oficiais do governo”. O nome será ajustado quando o Geographic Names Information System, um banco de dados governamental de nomes e dados de localização, for atualizado.

O Google também mudará o nome do Monte McKinley, o pico mais alto do país, de Denali. O ex-presidente Barack Obama renomeou o marco do Alasca para Denali em 2015 como um aceno à população nativa da região.

Ambas as mudanças decorrem de uma ação executiva que Trump assinou logo após assumir o cargo na semana passada, dizendo que as mudanças “honram a grandeza americana”.

“É do interesse nacional promover a herança extraordinária da nossa Nação e garantir que as futuras gerações de cidadãos americanos celebrem o legado dos nossos heróis americanos”, disse a ordem executiva.

A ordem criticou a decisão de Obama de renomear McKinley como “uma afronta à vida do Presidente McKinley, suas conquistas e seu sacrifício”. Traçando paralelos com Trump, a ordem observa que McKinley “defendeu tarifas” e foi assassinado “em um ataque aos valores da nossa Nação e ao nosso sucesso”.

China lança o DeepSeek, uma das maiores plataformas de programação de IA que abalou os EUA nesta segunda-feira

As ações dos EUA caíram acentuadamente na manhã de segunda-feira após um avanço surpreendente de uma empresa chinesa de inteligência artificial, a DeepSeek , que ameaçou a aura de invencibilidade que cerca a indústria de tecnologia dos Estados Unidos.

DeepSeek , uma startup de apenas um ano de existência, revelou uma capacidade impressionante na semana passada: apresentou um modelo de IA semelhante ao ChatGPT chamado R1, que tem todas as habilidades familiares, operando a uma fração do custo dos modelos de IA populares da OpenAI, Google ou Meta.

A empresa disse que gastou apenas US$ 5,6 milhões em poder de computação para seu modelo base, em comparação com as centenas de milhões ou bilhões de dólares que as empresas dos EUA gastam em suas tecnologias de IA.

Isso provocou uma onda de choque nos mercados, em particular no setor de tecnologia, na segunda-feira.

O S&P 500 caiu 1,4% e o Nasdaq, de alta tecnologia, caiu 2,3%. O Dow permaneceu inalterado. Os mercados estavam substancialmente mais baixos no início da sessão, mas os investidores podem ter julgado a liquidação um tanto exagerada.

O que é DeepSeek?

A empresa, fundada no final de 2023 pelo gestor de fundos de hedge chinês Liang Wenfeng, é uma das dezenas de startups que surgiram nos últimos anos em busca de grandes investimentos para surfar na enorme onda da IA ​​que levou o setor de tecnologia a novos patamares.

Liang se tornou o Sam Altman da China – um evangelista da tecnologia de IA e investimento em novas pesquisas. Seu fundo de hedge, High-Flyer, foca no desenvolvimento de IA.

Assim como outras startups de IA, incluindo Anthropic e Perplexity, a DeepSeek lançou vários modelos competitivos de IA no ano passado que capturaram alguma atenção da indústria. Seu modelo V3 aumentou alguma conscientização sobre a empresa, embora suas restrições de conteúdo em torno de tópicos sensíveis sobre o governo chinês e sua liderança tenham gerado dúvidas sobre sua viabilidade como concorrente da indústria, relatou o Wall Street Journal .

Mas o R1, que surgiu do nada quando foi revelado no final do ano passado, foi lançado na semana passada e ganhou atenção significativa esta semana quando a empresa revelou ao Journal seu custo de operação chocantemente baixo. E é de código aberto, o que significa que outras empresas podem testar e desenvolver o modelo para melhorá-lo.

O aplicativo DeepSeek subiu nas paradas da app store, ultrapassando o ChatGPT na segunda-feira, e foi baixado quase 2 milhões de vezes.

O que é Modelo R1 ou Deep-Seek-R11?

DeepSeek-R1 é um modelo de raciocínio de código aberto desenvolvido pela DeepSeek, uma empresa chinesa de IA, para abordar tarefas que exigem inferência lógica, resolução de problemas matemáticos e tomada de decisão em tempo real.

O que diferencia modelos de raciocínio como DeepSeek-R1 e o o1 da OpenAI dos modelos de linguagem tradicionais é sua capacidade de mostrar como chegaram a uma conclusão.

Com o DeepSeek-R1, você pode seguir sua lógica, tornando-a mais fácil de entender e, se necessário, desafiar sua saída. Essa capacidade dá aos modelos de raciocínio uma vantagem em campos onde os resultados precisam ser explicáveis, como pesquisa ou tomada de decisão complexa.

O que torna o DeepSeek-R1 particularmente competitivo e atraente é sua natureza de código aberto. Diferentemente de modelos proprietários, sua natureza de código aberto permite que desenvolvedores e pesquisadores o explorem, modifiquem e implantem dentro de certos limites técnicos, como requisitos de recursos.

Por que o DeepSeek é tão importante?

A IA é uma tecnologia que consome muita energia e é cara — tanto que os líderes tecnológicos mais poderosos dos Estados Unidos estão comprando empresas de energia nuclear para fornecer a eletricidade necessária para seus modelos de IA.

A Meta disse na semana passada que gastaria mais de US$ 65 bilhões este ano no desenvolvimento de IA. Sam Altman, CEO da OpenAI, disse no ano passado que a indústria de IA precisaria de trilhões de dólares em investimentos para dar suporte ao desenvolvimento de chips de alta demanda necessários para alimentar os data centers famintos por eletricidade que executam os modelos complexos do setor.

plugins premium WordPress