2023年6月2日、政府の個人情報委員会がChat GPTの開発会社であるOpen AIに対して注意喚起を行ったことを発表しました。
以下、内容の抜粋と要約です。
なお、生成 AI サービスの利用に関する注意喚起等と併せて、生成 AI サービスである ChatGPT を開発・提供する OpenAI, L.L.C.及び OpenAI OpCo, LLC（以下、併せて「OpenAI」という。）に対しては、別添２のとおり、要配慮個人情報の取得及び利用目的の通知等についての注意喚起を行ったことに加え、今後、新たな懸念事項を認識した場合には、必要に応じ追加的な対応を行うとしたところである。
出典：生成AIサービスの利用に関する注意喚起等について
【要約】
- 要配慮個人情報（病歴など）について、正当な理由がない限り、取り扱わないこと
- 学習用データセットに加工する前に、当該要配慮個人情報を削除する又は特定の個人を識別できないようにするための措置を講ずること
- 個人情報の利用目的について通知もしくは公表
本文で詳しく紹介します。
目次
OpenAI に対する注意喚起まとめ
資料によると、個人情報委員会は、Open AIに以下を遵守するよう注意喚起しました。
要配慮個人情報の取得
（１）機械学習のために情報を収集することに関して、以下の４点を実施すること。
- 収集する情報に要配慮個人情報が含まれないよう必要な取組を行うこと。
- 情報の収集後できる限り即時に、収集した情報に含まれ得る要配慮個人情報をできる限り減少させるための措置を講ずること。
- 上記①及び②の措置を講じてもなお収集した情報に要配慮個人情報が含まれていることが発覚した場合には、できる限り即時に、かつ、学習用データセットに加工する前に、当該要配慮個人情報を削除する又は特定の個人を識別できないようにするための措置を講ずること。
- 本人又は個人情報保護委員会等が、特定のサイト又は第三者から要配慮個人情報を収集しないよう要請又は指示した場合には、拒否する正当な理由がない限り、当該要請又は指示に従うこと。
（２）利用者が機械学習に利用されないことを選択してプロンプトに入力した要配慮個人情報について、正当な理由がない限り、取り扱わないこと。
利用目的の通知等
利用者及び利用者以外の者を本人とする個人情報の利用目的について、日本語を用いて、利用者及び利用者以外の個人の双方に対して通知し又は公表すること。
※読みやすいように一部編集・加工
※内容の改変はしていません
関連用語
要配慮個人情報
差別や偏見を生じるおそれの有無等を勘案し、その範囲を定めていくこととするが、医療現場等における従前からの運用と齟齬が生じ、混乱が生じることのないよう留意し検討するもの
出典：要配慮個人情報に関する政令の方向性について
- 病歴
- 犯罪の経歴
などが該当します。
プロンプト
AI（人工知能）に対して指示や命令を出すこと。
