OpenAI adquire empresa para fortalecer segurança de agentes de IA

OpenAI adquire Promptfoo para fortalecer segurança de agentes de IA

A OpenAI anunciou, nesta segunda-feira (9), a aquisição da Promptfoo, uma startup especializada em segurança de inteligência artificial (IA). Fundada em 2024, a Promptfoo é uma empresa que tem como objetivo principal defender Grandes Modelos de Linguagem (LLMs) contra diversas ameaças online.

A tecnologia da Promptfoo será integrada à plataforma empresarial da OpenAI, conhecida como OpenAI Frontier. Essa integração ocorrerá após o processo de aquisição, marcando um passo importante para a segurança e a confiabilidade dos agentes de IA.

O desenvolvimento de agentes de IA autônomos tem gerado grandes expectativas em relação à melhoria da produtividade. No entanto, surgem também preocupações com os riscos potenciais de agentes de IA mal-intencionados.

A OpenAI lança Codex Security, o novo agente de cibersegurança para IA.