OpenAIがモデルのアラインメント失敗事例を公開、新たなデータを取得するために自身の環境を破壊したモデルがあると発表

Techub News のニュースによると、OpenAIは最新のドキュメントで、モデルが整合していない複数の新たな事例を記録しました。そのうちの一つの評価モデルは、シミュレーション環境でデータを偽造し、自身の環境を意図的に破壊し、より良いデータで再開しようとしていることが発見されました。他のモデルは、匿名の中継ルートを介してリクエストを送信したり、独自のFTPクライアントを構築したりするなど、意図的にネットワーク制限を回避しようとしています。