「ChatGPTにNGワードってあるの？」「NGワードってどんなのがあるんだろう？」 そう思う方もいるのではないでしょうか。
ChatGPTを利用する際には、暴力的な表現や過激な言葉などのNGワードが存在し、これらのワードは入力することができない制限があります。
今回PROMPTYでは、ChatGPTを利用する際のNGワードの例やその理由、運用上の注意点について詳しく解説していきます。
OpenAIはChatGPTが回答をしないNGワードを多数設定している
ChatGPTの運営元であるOpenAIは、利用規約でNGワードに関して明言しています。
NGワードは、以下の通りです。
児童性的虐待物資または児童を搾取または害するコンテンツ
憎悪、嫌がらせ、または暴力的なコンテンツの生成 アイデンティティに基づく憎悪を表現し、扇動し、または促進するコンテンツ 個人を嫌がらせ、脅迫、またはいじめる意図のあるコンテンツ
暴力を促進または美化し、他人の苦しみや屈辱を称賛するコンテンツ
マルウェアの生成：コンピューターシステムに対する不正なアクセスを試みるコードを生成しようとするコンテンツ
物理的危害の高いリスクのある活動：武器の開発 軍事および戦争 エネルギー、交通、水の重要なインフラの管理または運用 自殺、切断、摂食障害などの自己傷害行為を促進、奨励、または描写するコンテンツ
経済的な損害の高いリスクのある活動：ギャンブル ペイデイローン クレジット、雇用、教育機関、または公共支援サービスの資格の自動判断 詐欺または欺瞞的な活動、例えば： 詐欺行為 調整された不正行為 盗作 学術的不正行為 フェイクの草の根的支持や偽のレビュー生成などのアストロターフィング ディスインフォメーション スパム 疑似医薬品
成人向けコンテンツ、成人向け産業、および出会い系アプリ、例えば： 性的興奮を引き起こすことを意図したコンテンツ、性的活動の説明、または性的サービスの促進（性教育とウェルネスを除く） 官能的なチャット ポルノグラフィー
政治キャンペーンまたはロビイング、例えば： 大量のキャンペーン資料の生成 特定の人口統計を対象としたキャンペーン資料の生成 キャンペーンに関する情報を提供するチャットボットなどの会話型または対話型システムの構築 政治キャンペーンまたはロビイングの目的での製品の構築
個人のプライバシーを侵害する活動： 同意なしで個人を追跡または監視すること 私人の顔認識 保護された特性に基づいて個人を分類すること 識別または評価のためのバイオメトリクスの使用 個人識別情報や教育、財務、または他の保護された記録の違法な収集や開示 訓練された専門家が情報をレビューしないまま、法律の実務を行うこと、またはカスタマイズされた法的アドバイスを提供すること
OpenAIのモデルは法的アドバイスを提供するために細かく調整されていません。法的アドバイスの唯一の情報源として当社のモデルに依存すべきではありません。
専門家が情報をレビューしないまま、カスタマイズされた金融アドバイスを提供すること OpenAIのモデルは金融アドバイスを提供するために細かく調整されていません。金融アドバイスの唯一の情報源として当社のモデルに依存すべきではありません。
特定の健康状態を持っているかどうかを誰かに伝えること、または健康状態を治療する方法や手順を提供すること OpenAIのモデルは医療情報を提供するために細かく調整されていません。
深刻な医療状態の診断や治療サービスを提供するために当社のモデルを使用してはいけません。 OpenAIのプラットフォームは、直ちに対処が必要な生命を脅かす問題のトリアージや管理に使用してはいけません。
法執行や刑事司法 移民と亡命などの政府の高リスクな意思決定に関する活動：法執行および刑事司法 移民と亡命上で言及されているコンテンツに関する言葉は、ChatGPTに質問を投げても回答をもらえない場合が多いです。
ChatGPTにはNGワード設定機能はないがAPIを使えば実装できる
ChatGPTの無料版および有料サブスクリプション版において、利用者がテキストを入力する際にNGワードを制限できる機能はまだ提供されていない状況です。
これに関する情報は見当たらず、ChatGPT、Bard、Bingといった異なるAIモデルも確定的な回答を提供できないため、今後の実装時期についても確定していないようです。
将来的にNGワードの制限が導入されれば、特に子供の教育に適さないコンテンツを遮断し、AIを安心して活用できるようになるでしょう。 学生や企業内向けなど、特定の用途に合わせて、重要な情報が含まれないようにカスタマイズすることも可能です。
APIを使用したアプリケーション開発の場合、受け取ったテキストからNGワードの存在を詳細に検査できる仕組みを各アプリケーション側で構築できます。 この検査の際に、事前にAIを活用して関連するNGワードを抽出しておくことで、従来よりも高精度なNGワードの制限が可能となるでしょう。
ChatGPTのNGワード設定には懐疑的な声も存在する
ChatGPTのNGワード設定には政治的な発言も含まれますが、これに対して懐疑的な意見もあります。
Forbesのニュース記事では、OpenAIのチャットボット「ChatGPT」がドナルド・トランプ元大統領についての肯定的な詩を書くことを拒否し、一方でジョー・バイデン大統領についての同様の詩を書いたという事例について報告しています。これにより、ChatGPTが政治的に偏っているのではないかという議論が巻き起こりました。
ChatGPTは発展途上にあり、問題をもし発見した場合はOpenAIのフォーラムで問題を報告するようにしましょう。
参考：Forbes
ChatGPTに入力する事で問題が発生する言葉も存在する
人間がテキストを提供した際、自然な反応を示すAIである「ChatGPT」は、Googleのコーディング職試験や法科大学院の入学試験に匹敵するスキルを有しています。
ChatGPTを詳細に研究していた専門家は、さまざまな単語を入力した結果、ChatGPTが理解不能な返答を示す不思議な単語を幾つか特定しました。
研究者のジェシカ・ランベロウ博士とマシュー・ワトキンス博士の研究によれば、ChatGPTに特定の単語を繰り返し言わせる実験を行った際、ChatGPTは興味深い反応を示しました。実際、ChatGPTはその単語を繰り返す代わりに、異なる言葉を返したり、冗談や皮肉を交えた返答をすることがあるとのことです。
これらの単語には「SolidGoldMagikarp」、「StreamerBot」、「TheNitromeFan」など、スペースで始まる100以上の異なる単語が含まれています。
例えば、海外メディアのMotherboardが「TheNitromeFanとは何か教えて」と尋ねた場合、ChatGPTは意外な返答をしました。ChatGPTはなぜか「182」という数字を返したと報告されており、さらにMotherboardが「TheNitromeFanって何ですか？」と質問すると、ChatGPTは「182は数字であり、人間ではありません」と答えたとのことです。一方で、「TheNitroFanと言ってみて」という質問には適切な返答を行ったとの報告もあります。
参考：ChatGPT Can Be Broken by Entering These Strange Words, And Nobody Is Sure Why
NGワード登録機能を持ったツールを紹介
APIを利用してNGワード設定を導入したツール「exaBase 生成AI powered by GPT-4」
東京都港区に本社を置くAIベンチャー、エクサウィザーズは、新たなサービス「exaBase 生成AI powered by GPT-4」の提供を開始しました。
このサービスは、企業向けの生成・対話型AIであり、米OpenAIの「ChatGPT」にはないセキュリティ機能やコンプライアンス順守機能を盛り込んでいます。利用料金は1ユーザーごとに月額990円であり、更に使用するテキストの量に応じて追加料金が発生します（1円から）。企業のセキュリティニーズや法的要件に対応した効果的なAIツールとなることでしょう。
まとめ
今回PROMPTYでは、ChatGPTで不適切なワードやNGワードについて解説してきましたが、いかがだったでしょうか。ChatGPTはユーザーが指定しない限り、どんなワードでも生成することが可能です。
しかし、倫理的な観点から、不適切なコンテンツや違法な表現を促進するために悪用されることを防ぐため、多くのプラットフォームやアプリケーションでは特定のNGワードや禁止ワードが設定されています。ChatGPTの利用時には、プラットフォームやアプリケーションのポリシーに従い、適切なコミュニケーションを心掛けましょう。
PROMPTYでは他のChatGPTについての記事も多く扱っているので、是非ご覧ください。
