A recente decisão da Cisco de adquirir a Robust Intelligence por um valor reportado de 400 milhões de dólares colocou um enorme foco num canto do mundo da tecnologia que está rapidamente a mover-se para o centro do palco: a segurança da IA. Durante anos, as empresas estiveram numa corrida para construir e implementar IA, mas a conversa sobre como proteger estes sistemas poderosos de ameaças novas, quase invisíveis, tem estado alguns passos atrás.
A Robust Intelligence é uma empresa focada em tornar os sistemas de IA seguros de dentro para fora. Mas o que é que isso significa realmente? Neste artigo, vamos analisar o que a Robust Intelligence faz, por que a sua missão é tão importante para qualquer empresa que utiliza IA e o que esta tendência significa para si, quer esteja a usar IA para apoio ao cliente, TI ou qualquer outra área.
O que é a Robust Intelligence?
Na sua essência, a Robust Intelligence é uma empresa de segurança de IA. Construíram uma plataforma para proteger modelos de IA, e as aplicações em que estes correm, ao longo de todo o seu ciclo de vida, desde a primeira linha de código até cada interação com o cliente.
Fundada pelo antigo professor de Harvard Yaron Singer e pelo seu então aluno Kojin Oshiba, a empresa foi construída sobre uma ideia simples, mas crítica: os modelos de IA podem falhar, e irão falhar. A sua função é prevenir essas falhas, detetando vulnerabilidades antes que possam ser exploradas e protegendo contra ataques maliciosos em tempo real.
A sua plataforma está dividida em duas partes principais:
-
Validação de IA: Esta é a parte proativa. Antes de um modelo de IA ver a luz do dia, esta ferramenta automatiza o processo de o testar em busca de falhas de segurança e riscos. Pense nisto como um teste de stress que encontra os pontos fracos antes que possam causar danos no mundo real.
-
Proteção de IA (Firewall de IA): Esta é a defesa em tempo real. Assim que um modelo está a funcionar, a Firewall de IA atua como uma barreira de proteção, monitorizando constantemente as entradas e saídas para bloquear ameaças à medida que surgem.
Eles estão basicamente a construir o sistema imunitário de segurança para uma nova geração de tecnologia.
B{Plataforma Robust Intelligence}; B --> C[Validação de IA - Testes Proativos]; B --> D[Proteção de IA - Firewall em Tempo Real]; C --> E[Testes de Stress Automatizados]; C --> F[Identificar Riscos de Segurança e Proteção]; D --> G[Monitorizar Entradas e Saídas]; D --> H[Bloquear Ameaças em Tempo Real];
Perguntas frequentes
A Robust Intelligence é uma empresa de segurança de IA que desenvolve uma plataforma para proteger modelos e aplicações de IA ao longo de todo o seu ciclo de vida. Resolve o problema crítico de proteger os sistemas de IA contra vulnerabilidades únicas e subtis que as ferramentas de cibersegurança tradicionais não conseguem detetar, garantindo que funcionam de forma segura e fiável.
A Robust Intelligence utiliza uma abordagem dupla: a Validação de IA, que testa proativamente os modelos em busca de falhas de segurança antes da implementação, e a Proteção de IA (Firewall de IA), que monitoriza continuamente as entradas e saídas em tempo real para bloquear ameaças assim que os modelos estão operacionais.
Sim, a Robust Intelligence foi especificamente concebida para defender contra ameaças avançadas de IA, como a injeção de prompts e o jailbreaking, que enganam a IA para que se comporte de forma inadequada, e o envenenamento de dados, em que os atacantes alimentam secretamente dados maus para influenciar o comportamento do modelo. Também protege contra técnicas de evasão de modelo.
A aquisição da Robust Intelligence pela Cisco destaca que a segurança da IA já não é uma preocupação de nicho, mas sim uma prioridade de topo para as grandes empresas. Significa uma mudança no sentido de integrar a segurança avançada da IA diretamente na infraestrutura empresarial, tornando-a um requisito fundamental para a implementação de aplicações de IA.
Enquanto a Robust Intelligence protege os modelos de IA subjacentes, uma estratégia abrangente também requer a gestão da camada de aplicação para garantir que a IA se comporta de forma fiável em cenários de interação com o cliente. Isto envolve um controlo granular sobre as ações da IA, testes sem risco e uma integração perfeita com as ferramentas existentes, como oferecido por plataformas como a eesel AI.
Não, a Robust Intelligence não publica os seus preços. As empresas interessadas precisam de agendar uma demonstração e consultar a sua equipa de vendas para obter um orçamento, uma vez que as suas soluções são normalmente adaptadas às necessidades de grandes empresas.
Share this article
Article by
Kenneth Pangan
Writer and marketer for over ten years, Kenneth Pangan splits his time between history, politics, and art with plenty of interruptions from his dogs demanding attention.
