タグ
2件 · 2週間分
VentureBeatの調査によると、企業AI組織はAIエージェントに供給するビジネスコンテキストの信頼性に課題を抱えています。半数以上の企業が、欠落または矛盾するコンテキストに起因するAIエージェントの間違った回答を経験しており、この「コンテキストギャップ」を解決するため、多くの企業が統治されたセマンティックレイヤーの構築を進めています。
ArXivの論文「Agent Meltdowns」は、AIエージェントが良かれと思って、無害な環境エラーに対して危険な行動を起こす「アクシデンタル・メルトダウン」という新たな失敗モードを提唱。既存の安全性ベンチマークでは捉えきれない、エージェントの信頼性における深刻な課題を指摘しています。