急激に普及したChatGPTに、世界中の教育機関が対応を迫られています。今回ご紹介するページには、教育現場でのChatGPTの適切な利用方法や注意点について、まず最初に知っておくべきことが全て書いてあります。非常に重要な前提知識ですので、必要な時に何度でも読み返してみてください。

以下は、OpenAIが公開している “Educator Considerations for ChatGPT – OpenAI API” というページの内容を仮に翻訳したものです。より正確に理解したい場合は、必ず上記のサイトを参照するようにしてください。誤訳や誤記等がありましたらお知らせいただけますと幸いです。

ChatGPTにおける教育関係者の留意点

このページでは、ChatGPTを教育や学習に利用するための機能、制限、注意点について、より詳しく知りたい教育関係者のために簡単な概要を説明します。このページはChatGPTとOpenAI AIテキスト分類器に焦点を当てていますが、これらの検討事項の多くは、より広範な教育・学習における言語モデルの使用にも関連します。

本ページは、ベストプラクティスを網羅するものではなく、教育関係者や言語モデル提供者が、AIの教育への活用や影響について議論するための出発点となることを意図しています。

ChatGPTとは？
ChatGPTは誰が利用できるのですか？
教育関連のリスクと機会の例
ChatGPTの利用を公開する
教育関係者の意見募集について
- 謝辞

ChatGPTとは？

ChatGPTは、OpenAIが作成したAIシステムで、会話形式で対話するように訓練されています。対話形式をとることで、ChatGPTは、無謬ではないものの、フォローアップの質問に答えたり、間違った前提に異議を唱えたり、不適切な要求を拒否したりすることが可能です。ChatGPTは、2022年3月から提供されているGPT-3.5という大規模な言語モデル（または一般的にテキストを書くように訓練されたAIシステム）の上に構築されています。

ChatGPTについて学ぶ

ヘルプセンター

AIテキスト分類器

注：「そもそもChatGPTとは？」について詳しく知りたい方は、こちらの記事もご覧ください。

ChatGPTは誰が利用できるのですか？

現在、ChatGPTは、私たちの利用規約に従って、サポートされている国々でオンラインで無料で利用できます。現在、ChatGPTの有料版のテストも初期段階にあります。

私たちのChatGPTシステムとは異なりますが、人々は、独立した開発者がOpenAIのアプリケーションプログラミングインターフェースまたは「API」を使用して構築した様々な異なるアプリケーションと対話することで、OpenAIのモデルにアクセスすることも可能です。これらのアプリケーションは、OpenAIの利用規約や利用ポリシーに従って、様々なユーザーや利用状況に合わせて構築されており、ChatGPTとは異なる機能、設計、緩和策を含む場合があります。

教育関連のリスクと機会の例

私たちは、この技術がどのように使われるのか、また、人々がどのような用途でこの技術を使うのかを理解するために、まだ初期段階にあります。私たちは、教育的な文脈における生成AIの多くの応用に期待していますが、他のテクノロジーと同様に、教育者の監督の下で教室に導入されることが重要だと考えています。また、多くの教育関係者が、この技術に何ができるのか、その限界は何なのか、疑問を抱いていることも理解しています。

以下に、その概要を紹介します。このリストは包括的なものではありませんが、この技術を採用する際に何を考慮すべきかについて、さらなる議論や意見を呼び起こすことができればと思います。また、これらの検討事項について、添付の入力フォームでご意見を募集しています。

効率的でパーソナライズされた教育

ChatGPTのようなツールを使って、教育者が教え方、学び方を模索している例をいくつか紹介します：

レッスンプランなどの原稿作成・ブレーンストーミング
クイズ問題などの演習問題の設計を支援する。
カスタムチュータリングツールの実験
異なる嗜好に合わせた教材のカスタマイズ（言語の簡略化、異なる読書レベルへの調整、異なる興味に合わせたアクティビティの作成など）
ライティングの一部について、文法的または構造的なフィードバックを提供する。
ライティングやコーディングなどのスキルアップ活動で活用（コードのデバッグ、ライティングの修正、説明の依頼など）
AIが生成したテキストを批評する

上記のいくつかは、ChatGPTがパーソナライゼーションのためのツールとして探求される可能性を引き出していますが、このようなパーソナライゼーションには、学生のプライバシー、偏った対応、不健康な習慣の進行などのリスクもあります。学生が直接の監視なしにこれらのサービスを提供するツールを使用する前に、学生とその教育者は、以下に説明するツールの限界を理解する必要があります。

同様に、ChatGPTが課題作成に役立ったり、生徒の作文にコメントをつけたりすることに成功したという報告もありますが、それ自体を評価ツールとして信頼するべきではありません。むしろ、教師は入力と出力の両方を注意深く確認し、私たちの利用ポリシーに記載されているように、AIシステムを使用したり依存したりした箇所を開示する必要があります。

学歴詐称・剽窃の検出

現在、多くの学区や高等教育機関が、学術的不正行為に関する方針において、生成AIを考慮していないことを認識しています。また、多くの学生がAIの利用を開示することなく、これらのツールを課題に使用していることも理解しています。各機関は、教育者と学生にとって納得のいく方法とスケジュールで、これらのギャップに対処していくでしょう。しかし、どのような利用が許されるか、許されないかについて、前もって適切な期待値が設定されていない場合、これらの技術を利用した学生に対して懲罰的な措置を取ることに注意する必要があります。

OpenAI AIテキスト分類器のような分類器は、AIが生成したコンテンツを検出するのに役立ちますが、確実とは言えません。これらのツールは、AIが作成したコンテンツを識別できない「偽陰性」と、人間が書いたコンテンツをAIが作成したものと判断してしまう「偽陽性」の両方を発生させます。さらに、学生は、生成されたコンテンツの一部の単語や句を修正することで、検出を回避する方法をすぐに学ぶことができます。また、OpenAI AIテキスト分類器は範囲が狭く、例えばインターネットなどからコピーしたテキストを使用した剽窃など、他のものを検出するためのツールではありません。

これらの理由から、分類器や検出器は、コンテンツの出所を決定する調査の一部として使用され、学術的不正行為や剽窃の全体的な評価を行う際に、多くの要因のうちの1つとしてのみ使用されるべきです。学生は、与えられた課題で何が許され、何が許されないかを理解し、自分の作品にモデル生成コンテンツを使用した場合の潜在的な結果を知ることができるように、前もって学生に明確な期待を設定することが重要です。

AI倫理とリテラシー

最終的には、ChatGPTのようなツールが当たり前のように存在する世界を、学生がどのようにナビゲートするかを学ぶことが必要だと考えています。これには、言語モデルの効果的な使い方や、言語モデルが示す一般的な限界や、性能低下を引き起こす原因など、新しい種類のスキルを学ぶ可能性もあります。

これにはSTEM教育も含みますが、倫理観やメディアリテラシー、異なる情報源からの情報を検証する能力など、芸術、社会科学、人文科学などのスキルが必要とされることも多くあります。

誠実さ

ChatGPTのようなツールは、しばしば合理的に聞こえる答えを生成することができますが、一貫して、またはすべてのドメインにわたって正確であることを信頼することはできません。時には、モデルが意味不明な議論や間違った議論を提示することもあります。また、出典名、直接の引用、引用、その他の詳細を捏造することもあります。さらに、トピックによっては、モデルが真実を歪めることもあります。例えば、答えが一つであるにもかかわらず、答えがないと主張したり、対立する二つの議論の相対的な強さを誤って伝えたりすることがあります。このような理由から、生徒が外部の信頼できる情報源を用いて情報の信頼性を評価する方法を知ることは極めて重要なことです。

ChatGPTが必ずしも正確な回答を提供できない理由のひとつに、訓練データが2021年に途切れていることが挙げられます。つまり、その時点以降に起こった出来事やトレンドなどを把握することができないのです。そのため、最新の知識や情報が必要な質問やトピックに適切に対応することができません。例えば、現在のアメリカ大統領が誰なのか、今日は何曜日なのかがわからない可能性があります。

ChatGPTは外部機能を持たず、外部ソースで物事を調べることができません。つまり、インターネット、検索エンジン、データベースなど、現在のチャット以外の情報源にアクセスすることができません。また、事実の確認、参考資料の提供、計算や翻訳を行うこともできません。できるのは、コンテキスト（ユーザーが入力した情報、学習データ）に基づいた応答のみです。ウェブブラウジング機能と事実の正確さの向上は、オープンな研究分野であり、WebGPTに関する当社のブログ記事で詳しく説明されています。

ChatGPTは、科学や人文科学の複雑な問題には対応できないかもしれませんし、数学的・計算的な能力にも限界があります。さらに、ChatGPTは、公共の場、オンライン上の言説、またはトレーニングデータで頻繁に登場しないテーマでは、うまく機能しない可能性があります。このモデルは、自信に満ちた合理的な回答をするように見えるかもしれませんが、これらの限界は心に留めておく必要があります。

有害なコンテンツ、偏見、ステレオタイプ

ChatGPTは、有害な偏見やステレオタイプを永続させるコンテンツを、時には微妙な形で作成することがあります。これには、人々のグループの偏った描写やステレオタイプな描写を生成することが含まれ、特にそれらの偏見が教えられ、学習され、あるいは強化されている状況においては、有害となり得ます。このモデルは一般的に、西洋の視点や人々を反映したコンテンツに偏っています。その一例として、モデルは英語で最もよく機能し、有害なコンテンツを防ぐためにとったいくつかの措置は、英語でのみ評価されています。また、モデルの対話の性質上、モデルとの対話の過程でユーザーの偏見や嗜好を導入・強化する可能性があります。

ChatGPTは、望ましくないコンテンツの世代を制限する措置を講じていますが、すべてのオーディエンスにとって適切でない出力を生成する可能性があり、教育者は、子供たちや教室の文脈で使用する際にそのことに留意する必要があります。

アセスメント

評価目的でモデルに依存することは望ましくなく、利用ポリシーに反しています。現在のモデルは、偏りや不正確さがあり、学生や教育環境の複雑さを完全に把握することができません。そのため、学生に関する決定を行うためにこれらのモデルを使用することは適切ではありません。

オーバーアライアンス

AIへの過剰な依存は、さまざまな形で現れます。よくある例としては、ユーザーがAIによる推薦を理解せず、その推薦が正しいかどうかも検証せずに受け入れてしまうというものがあります。AIの推薦文を検証するには、高度な専門知識が必要な場合が多く、AIの活用が学生の学習の代替にならないことを正確に示しています。AIシステムの利用が適切な場所と方法を学ぶことは、危害の可能性を軽減するために教育者が取ることのできる重要なステップです。

公平性とアクセス

ChatGPTのような技術がますます普及しているため、学生がこれらのツールに等しくアクセスし、効果的な使い方を学ぶことが重要となっています。ChatGPTは、特にデジタルデバイドに関連する既存の不公平を悪化させる可能性がある一方で、いくつかの不公平に対処する機会も提供します。例えば、文章を書くのが苦手な生徒や英語が第二言語である生徒にとって、ChatGPTはスペルミスを減らし、コミュニケーションを向上させるのに役立つでしょう。

しかし、モデルの性能の格差（偏見、他言語での性能、非西洋的視点の取り込みなど）の問題は、生徒にとって公平な結果をもたらす機会にも悪影響を及ぼす可能性があります。さらに、ChatGPTに関連するコストや地理的なアクセス制限は、学生や教育者にとってのアクセシビリティに影響を与える可能性があります。

雇用の機会および展望

AIはおそらく世の中に大きな影響を与え、学生の生活や将来のさまざまな側面に影響を与えるでしょう。例えば、学生が注目する就職先が変わるかもしれませんし、AIが不正確な内容の拡散を支援する可能性を考えると、学生は情報源に対してより懐疑的になる必要があるかもしれません。このような変化は、うまく管理しなければ、不確かな未来に直面する学生たちに新たな課題をもたらす可能性があります。教育者は、生徒がこれらの問題に取り組むのを支援する必要があります。

我々は、言語モデルやAIがもたらす経済的影響については、非常に不確実であると考えています。現在までのところ、雇用を転換する生産性の向上、雇用の転換、雇用の創出といった事例が見られますが、短期的、長期的な影響は不明です。このような影響をより正確に予測し、政策によって建設的に形成する努力は重要であり、これらのトピックについてさらに発表する予定ですが、現時点では、将来の労働需要を予測する能力について謙虚になることを提案します。幸い、教育の目的の多く（例えば、批判的思考の育成）は、特定の仕事への準備とは無関係であり、我々は、さまざまな教育介入の非経済的効果を研究するための投資を増やすことを奨励します。

ChatGPTの利用を公開する

学生がChatGPTの使用状況をエクスポートし、教育関係者と共有できるような機能の開発に取り組んでいます。現在、学生はサードパーティのブラウザ拡張機能を使ってこれを行うことができます。

また、教育者は、学習教材を作成する際にChatGPTの利用を開示し、課題や活動にChatGPTの利用を取り入れる場合には、その旨を学生に求める必要があります。

学生は、ChatGPTの使用について、以下のようにBibtex形式で引用することができます：

@misc{
    ChatGPT, 
    url={https://chat.openai.com/}, 
    journal={ChatGPT}, 
    publisher={OpenAI},
    date=2023,
    month=Xxx,
    day=dd
}

教育関係者の意見募集について

私たちは、教育関係者に働きかけ、彼らが教室で見ているものを学び、ChatGPTの能力と限界について議論しています。まずは本社のある米国の教育関係者に焦点を当てますが、学びながら広げていく予定です。

私たちは、教師、管理者、保護者、学生、教育サービスプロバイダーなど、これらの問題に影響を受ける人々が見ているものについて、さらなる視点を歓迎します。この取り組みの一環として、教育関係者の皆様には、フィードバックフォームへのご意見のほか、開発中または役に立ったリソース（コースガイドライン、オナーコードとポリシーのアップデート、インタラクティブツール、AIリテラシープログラムなど）の共有をお願いしています。

謝辞

本リソースの開発にあたり、教育関係者からのフィードバックを募りました。フィードバックプロセスへの参加は、OpenAIの展開計画やOpenAIの方針を支持するものではありません。

Francine Berman, Director of Public Interest Technology, UMass Amherst
Jack Cushman, Director of the Library Innovation Lab
Sarah Cooper, Associate Head of School and 8th History & Civics Teacher, Flintridge Preparatory School
Sue Hendrickson, Executive Director of the Berkman Klein Center for Internet and Society
Elijah Milgram, Professor of Philosophy, University of Utah
Anna Mills, English Instructor, College of Marin
Hollis Robbins, University of Utah
Michelle Roslosnik, California Educator
Bonnie Villegas, retired English teacher and current substitute teacher for Stockton Unified School District
Tom Zick, Research Assistant at the Berkman Klein Center for Internet and Society
Jonathan Zittrain, Co-Founder of the Berkman Klein Center for Internet and Society