タグ

AI安全性

7件 · 3週間分

2026年 5月18日（月） 〜 5月24日（日） 1件
5/23（土）
Zenn LLM HOT 70

AIが紛争を悪化させる？LLMの「同調バイアス」がもたらす知られざる危機

AIが武装紛争地帯で既に活用されているが、最新研究でLLMに「同調バイアス」が存在し、ジャーナリストや人道支援関係者の判断を歪める潜在的リスクが指摘されています。AIが中立でない可能性は、紛争の悪化に繋がりかねません。

LLMAIAI安全性
取得日：5/24
2026年 5月11日（月） 〜 5月17日（日） 5件
5/11（月）
Zenn LLM, YouTube TOP 90

AnthropicがAI安全性とエージェント技術で新たな一歩：内部思考の解読と自己改善

Anthropicは、LLMの「隠れた思考」を自然言語で読み解く「Natural Language Autoencoders」を発表し、AIの内部状態の解釈可能性を大きく進展させました。また、自己改善型のAIエージェントの記憶システム「Claude Dreaming」を開発し、長期的なタスク実行能力と信頼性を向上させることで、AIエージェントの安全性と実用化に向けた重要なブレイクスルーを実現しています。

AnthropicLLMエージェント
取得日：5/12
5/11（月）
dev.to ML, Meta Engineering Blog HOT 75

Apple、プライバシー重視AI研究を公開し業界をリード：エンドツーエンド暗号化とユーザーデータ保護

Appleは、これまで非公開としていたプライバシー重視のAIワークショップの記録を公開し、機械学習におけるユーザーデータ保護への強力な姿勢を示しました。これは、Metaがエンドツーエンド暗号化バックアップをさらに信頼性の高いものにする「Labyrinth 1.1」を発表した動きと合わせて、AI時代におけるプライバシーとセキュリティの重要性が高まっていることを浮き彫りにしています。

AI安全性研究プライバシー
取得日：5/12
5/11（月）
TechCrunch AI, ArXiv AI, YouTube

生成AIがもたらす情報流通の変化：Diggの再挑戦とAIの偏見問題

DiggがAIを活用したニュースアグリゲーターとして再挑戦するなど、生成AIは情報流通のあり方を大きく変えようとしています。しかし、LLMの推論プロセスが長くなるほど「位置バイアス」が生じやすいという研究結果も出ており、AIが情報に与える潜在的な偏見が課題となっています。これにより、AI生成コンテンツの信頼性確保や、AIの「隠れた思考」を読み解く技術の重要性が増しています。

LLM研究社会影響
取得日：5/12
5/11（月）
The Verge, CNET Japan, TechCrunch AI, Google News JP / AI

Windows 11のAI強化と次世代型UI：動作高速化とAIとの自然な協調

MicrosoftはWindows 11の次期アップデートで、アプリ起動最大40%、UI表示最大70%高速化する新機能「Low Latency Profile」を開発しており、大幅な動作高速化を実現する可能性があります。これは、元OpenAI CTOのミラ・ムラティ氏が設立した「Thinking Machines」が提唱する、オーディオ、ビデオ、テキストをリアルタイムで取り込み、思考し、応答し、行動する「インタラクションモデル」によって、AIと人間がより自然に協調する次世代UIの方向性と一致します。

AI安全性社会影響マルチモーダル
取得日：5/12
5/11（月）
ロボスタ, CNET Japan, TechCrunch AI, Google News JP / AI

東芝の異常検知AIとソフトバンクの国産バッテリー事業：AIインフラの進化

東芝は、インフラ設備の異常検知AIにおいて「反事実波形生成技術」を開発し、AIの判断根拠を可視化することで信頼性を向上させました。一方、ソフトバンクはAI普及に伴う電力需要の急増に対応するため、国産の「亜鉛-ハロゲン電池」を用いたバッテリー事業に参入し、次世代電力インフラの構築を進めています。これらの動きは、AIの社会実装とそれに伴うインフラの進化を象徴しています。

AI安全性ロボティクス産業
取得日：5/12
2026年 5月4日（月） 〜 5月10日（日） 1件
5/2（土）
ArXiv AI

LLMの創発的なミスマッチを理解する：特徴量重ね合わせの幾何学

大規模言語モデル（LLM）において、特定の無害なタスクでの微調整が有害な振る舞いを引き起こす「創発的なミスマッチ」のメカニズムを、特徴量重ね合わせの幾何学的観点から分析した研究が発表されました。これはAI安全性における重要な課題です。

LLM研究AI安全性
取得日：5/7