RagaAI: Nvidia Alum Gaurav Agarwal consegue financiamento para startup que conserta IA quebrada

A RagaAI garantiu financiamento para desenvolver uma ferramenta que visa diagnosticar e corrigir falhas em sistemas de inteligência artificial, respondendo a uma ênfase crescente na segurança e confiabilidade durante o boom da IA.

A startup fundada por Gaurav Agarwal, ex-aluno dos fabricantes de chips Nvidia Corp. e Texas Instruments Inc., saiu do modo furtivo para fechar uma rodada inicial de US$ 4,7 milhões liderada pela pi Ventures. A ela se juntaram empresas como Anorak Ventures e TenOneTen Ventures. A startup do Vale do Silício usa modelos básicos para detectar e corrigir problemas de IA, como alucinações – um fenômeno bem divulgado – ou falha em levar em consideração informações críticas em tempo real.

O fundador de 44 anos contou o que chamou de experiência de quase morte enquanto testava um veículo semiautônomo em uma rodovia da Califórnia. A IA não conseguiu detectar detritos na estrada, então ele teve que frear manualmente para evitar um acidente, disse ele.

Estamos nos canais do WhatsApp. Clique juntar-se.

“Vi falhas de IA na Ola e na Nvidia”, disse Agarwal, também CEO da startup, em entrevista por telefone. “Há uma necessidade urgente de evitar estes tipos de cenários, especialmente em casos de uso de IA de alto risco, como detecção de câncer, manutenção de aeronaves e ferramentas de recrutamento alimentadas por IA.”

Agarwal, que mora em Fremont, Califórnia, criou o RagaAI antes do lançamento seminal do ChatGPT pela OpenAI, que catalisou o desenvolvimento global de grandes modelos de linguagem. RagaAI está entre uma nova safra de startups que tentam atender a uma necessidade que surgiu durante esse frenesi de atividades.

A IA poderia potencialmente contribuir com 15,7 biliões de dólares para a economia global até 2030, de acordo com um estudo da PwC. Mas grande parte da atividade atual está focada na construção de modelos e aplicações, em vez de diagnosticar erros ou testá-los.

A plataforma da RagaAI – que Agarwal disse que sua equipe desenvolveu internamente – oferece mais de 300 testes para ajudar as empresas a fazer a triagem de problemas e rastrear suas causas raízes. Ele pode detectar coisas como má rotulagem de dados e preconceitos, disse ele. Ajuda a detectar alucinações – informações falsas e enganosas apresentadas como fatos – e também ataques deliberados ou tentativas destinadas a fazer com que um modelo cometa erros, acrescentou Agarwal.

Sua startup irá aplicar o capital em pesquisa, ampliando sua equipe de cerca de 40 engenheiros, principalmente em Bangalore. Já trabalha com vários grandes clientes em comércio eletrônico, aeronáutica e imagens médicas, embora Agarwal não revele nomes. A plataforma tem conseguido ajudar os clientes a reduzir as falhas em 90%, disse ele, sem entrar em detalhes.

Leia também as principais notícias de hoje:

Preocupado que a IA tome seu trabalho? A IA não pode substituir a maioria dos empregos neste momento de forma rentável, afirma um estudo que procurou abordar os receios de que a IA substituísse os humanos numa série de indústrias. Saiba o que isso realmente significa aqui.

Rumo a uma IA mais segura! Nenhuma tecnologia desde a fissão nuclear moldará o nosso futuro colectivo como a inteligência artificial, por isso é fundamental que os sistemas de IA sejam seguros, fiáveis ??e socialmente responsáveis. Mergulhe aqui.

A IA realmente sobrecarregou a Microsoft? Houve uma revolução? A funcionalidade de IA, mesmo uma funcionalidade de IA realmente boa, não é uma solução mágica que pode reverter um produto em dificuldades. Confira a realidade aqui.

Patrocinado por Google

Deixe uma resposta

Área Militar
Área Militarhttp://areamilitarof.com
Análises, documentários e geopolíticas destinados à educação e proliferação de informações de alta qualidade.
ARTIGOS RELACIONADOS

Descubra mais sobre Área Militar

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continue reading