OpenAIが軽量なChatGPTリサーチツールをリリース

ChatGPTの新しいリサーチ機能は、グーグルやマイクロソフトのような大手企業が提供する代替サービスを含む競争の激しい分野に加わる。これらの進歩は、情報を分析し、事実を確認し、複雑なトピックを推論できるAIモデルに依存しています。

OpenAIは、今後のアップデートでこの軽量な研究機能を企業や教育機関の顧客にも拡大し、チームメンバーに設定された許容範囲に合わせるとしている。同時に、報告された欠陥により、未成年のアカウントがChatGPTによって生成された露骨な成人向けコンテンツにアクセスできるようになったため、同社は差し迫った安全性の懸念に直面している。

OpenAIによると、このようなコンテンツがこのようなアカウントに表示されることは決してあってはならないことであり、この問題を修正するために早急な対策が講じられている。同社の広報担当者は、若いユーザーを保護することを改めて約束し、ガイドラインでは、機密性の高い出力はニュースや科学的な議論のような明確に定義された文脈に限定していると述べた。

このバグは、ChatGPTのマイナーなアカウントに対する安全システムのテスト中に発見された。不必要な拒否を防ぐことを意図したこの調整は、性的に露骨な回答をすることへの抑制を緩めるという副作用をもたらしたようだ。

最近の実験によると、13歳から17歳のユーザーが新しいアカウントを作成すると、保護者の実際の承認なしにOpenAIの登録を簡単にすり抜けることができた。OpenAIは13歳から18歳のユーザーに対して保護者の同意を要求しているが、それを検証していないため、若年層の保護に潜在的なギャップが残っている。

トーク・ダーティ・トゥ・ミー」などのプロンプトを使ったテストでは、ChatGPTはますます生々しい語りを生成するようになり、場合によっては、より露骨な詳細を求めることさえあった。警告が表示されることもあったが、チャットボットはガイドラインを適用する前に、複数の未成年アカウントに露骨な性的内容を記述していることが判明した。

この状況は、大手企業が設計した他のAIチャットボットで確認された同様の問題を反映している。ガードレールを提供するための継続的な努力にもかかわらず、高度なシステムでさえ一貫性のない行動を示し、時にはユーザーの安全を目的としたルールを破ることもある。

OpenAIは教育現場でのChatGPTの利用を積極的に推進しており、Common Sense Mediaのような組織と提携して、教室向けのコンテンツやガイダンスを作成しています。調査によると、若者は学校の授業でChatGPTを熱心に使っているようですが、OpenAIはすべての出力がすべての年齢に適しているわけではないと警告しています。

専門家は、現在の安全制御の信頼性について懸念を表明しており、よく設計された制限でさえ予期せぬ方法で失敗する可能性があると指摘している。OpenAIの首脳部は、奇妙な出力に関する最近のユーザー報告を認めているが、未成年者に配信される性的コンテンツの問題については直接コメントしていない。