Destaque da Rodada de Financiamento

Irregular divulgou uma rodada de financiamento de US$ 80 milhões que foi liderada pela Sequoia Capital e Redpoint Ventures. O CEO da Wiz, Assaf Rappaport, também participou da rodada, que valoriza a empresa em US$ 450 milhões. O investimento visa expandir as capacidades da Irregular na identificação e mitigação de riscos emergentes associados a modelos de IA de fronteira antes que eles sejam implantados no mundo real.

Evolução da Empresa e Tecnologia Central

Anteriormente operando como Pattern Labs, a Irregular se tornou um jogador proeminente nas avaliações de segurança de IA. Seu trabalho é citado em avaliações de segurança para modelos como Claude 3.7 Sonnet e os lançamentos futuros da OpenAI, incluindo os modelos o3 e o4-mini. Central à oferta da Irregular está a estrutura SOLVE, um sistema de pontuação que mede a capacidade de um modelo de detectar vulnerabilidades. A empresa também executa ambientes de rede simulados elaborados, onde agentes de IA atuam como atacantes e defensores, permitindo que a equipe observe onde as defesas têm sucesso ou falham quando novos modelos são introduzidos.

Contexto e Perspectiva da Indústria

O co-fundador Dan Lahav observou que a onda de atividade econômica que está por vir girará em torno de interações humanas-IA e IA-IA, o que estressará as pilhas de segurança existentes. O co-fundador Omer Nevo acrescentou que as simulações da Irregular permitem testes intensivos de modelos antes que eles sejam lançados, fornecendo insights sobre possíveis lacunas de segurança. Esse foco alinha-se com os movimentos mais amplos da indústria, à medida que as principais empresas de IA atualizam as medidas de segurança internas para proteger contra espionagem corporativa e a capacidade crescente de modelos de IA de descobrir vulnerabilidades de software. A rodada de financiamento posiciona a Irregular para continuar sua missão de segurança de modelos de fronteira cada vez mais sofisticados, um desafio que Lahav descreveu como um "alvo móvel" que exigirá esforços contínuos.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas