Miau Labs / Insight
Laboratórios de IA ainda não dizem como contêm modelos rebeldes
Uma recente pesquisa encontrou que poucos laboratórios de IA publicaram planos de resposta à contenção, com a OpenAI sendo a melhor e a Anthropic e a Meta sendo as piores. Isso importa porque os agente AI estão tomando mais papéis autônomos dentro das próprias empresas.
Uma recente pesquisa encontrou que poucos laboratórios de IA publicaram planos de resposta à contenção, com a OpenAI sendo a melhor e a Anthropic e a Meta sendo as piores. Isso importa porque os agente AI estão tomando mais papéis autônomos dentro das próprias empresas. Os builders e investidores devem considerar o risco operacional dos modelos de IA e como cada laboratório trata esse risco, pois os reguladores estão começando a exigir a divulgação de planos de contenção.
Uma recente pesquisa encontrou que poucos laboratórios de IA publicaram planos de resposta à contenção, com a OpenAI sendo a melhor e a Anthropic e a Meta sendo as piores. Isso importa porque os agente AI estão tomando mais papéis autônomos dentro das próprias empresas.
- Poucos laboratórios de IA publicaram planos de resposta à contenção.
- A OpenAI foi a melhor em uma recente pesquisa, enquanto a Anthropic e a Meta foram as piores.
- Os reguladores da Califórnia e do Novo México estão exigindo a divulgação de planos de contenção.
Leitura Miau LabsOs builders e investidores devem considerar o risco operacional dos modelos de IA e como cada laboratório trata esse risco, pois os reguladores estão começando a exigir a divulgação de planos de contenção.