開催概要
日時: |
2024年11月3日(祝) 12:30-17:00 |
場所: |
場所:株式会社内田洋行 本社ビル 東京ユビキタス協創広場 CANVAS
|
参加人数: |
熟議参加生徒 17人
|
参加校: |
札幌市立札幌旭丘高等学校
|
高校生、教員、企業関係者など80名(YouTube参観除く)の参加者を得て、「今、高校生が考える生成AIとの付き合い方 ー「誤情報・偽情報」を超えた活用法を考えるー 」をテーマに高校生がグループに分かれて活発な議論と発表を行いました。
開会の挨拶
司会進行・主旨説明 実行委員長 米田謙三 様
高校生 ICT Conference の概要及び大まかな流れ、本日のポイントや主旨などを説明しました。サミットの開催にあたり参加者並びに挨拶に参集いただいた共催省庁の皆様に感謝の言葉がありました。
ご来賓挨拶
総務省 情報流通行政局 情報流通振興課長 大澤 健 様
「今日は3つのメッセージをお伝えしたいと思います。まず、全国各地から集まった皆さんには、多様な意見や考え方に耳を傾けていただきたいです。このカンファレンスでは、お互いの発表だけでなく、他の参加者の異なる視点や意見を吸収し、深く議論する場にしてください。次に、カンファレンス終了後は地元に戻り、伝道者になってください。今日の議論や発表内容を地域や学校に持ち帰り、周囲に伝え、引き続きこの重要なテーマについて議論を続けてください。最後に、議論が煮詰まった時には、3つのプレイヤーを意識してください。生成AIで作られた情報を発信する人、受信する人、そして情報を伝送するプラットフォーム運営者、それぞれの役割を考え、健全なネット空間を築くための方法を議論してください。生成AIは生活や社会経済活動を便利にしますが、偽情報や誤情報が簡単に作られるリスクもあります。これらの偽情報が誰かに誤解されて行動に移されることが問題です。例えば、大雨の災害時に 偽の水没画像がSNSで拡散され混乱が生じた例があります。このようなケースでも発信者、受信者、プラットフォーム運営者の三者の役割が重要です。これらの役割を考慮し、健全なネット空間の構築に向けて議論を進めてください。今日のカンファレンスが活力ある議論の出発点となり、安全なネット空間の構築に繋がるよう、活発な議論を期待しています。」とご挨拶をいただきました。
こども家庭庁 成育局安全対策課長 近藤 裕行 様
「こども家庭庁安全対策課の主な仕事の一つとして、青少年の安全かつ安心な利用環境の確保があります。最近の動きとして、政府は、第6次基本計画を策定しました。この計画は、青少年のインターネット利用能力の向上の促進、フィルタリングを始めとする技術的手段の活用、親子のルール作りなどの教育的手段の推進という3つの柱から成っています。今後、第6次基本計画に基づいて、関係省庁と共に、各種施策を進めていきます。本日のテーマは生成AIです。私が高校生だった30年以上前には、生成AIなど想像もつかず、また、スマートフォンもなく、テレビもブラウン管でした。今では、テレビでYouTubeやAmazonプライムなどを視聴できるようになり、テレビの概念も変化しており、時代の変化を実感します。日常的にスマホを利用している皆さんにとって、生成AIは便利である一方、昨今、様々な問題も発生しています。本日のカンファレンスでは、生成AI との付き合い方に関する活発な議論を期待しています。また、私も皆さんの議論から多くを学びたいと思っています。」とご挨拶をいただきました。
消費者庁 消費者政策課長 鮎澤 良史 様
「本日は簡潔に2つほど申し上げさせて いただければと思います。本日は生成AIに関するサブテーマとして、誤情報や偽情報の対策が取り上げられています。消費者庁では、なりすましやチャットを利用した勧誘などの問題に直面しており、対処に苦慮しています。この問題について、皆様の知見を参考にしたいと考えています。1点めは、重要な点は消費者庁は消費者被害を防ぐために『消費者力』を提唱しています。消費者力は以下の4つから成り立っています。1つは目は気づく力、2つ目は断る力、3つ目は相談する力、 4つ目は周囲に働きかける力です。特に周囲に働きかける力は、皆さんの議論にも重要な要素です。もう一つ重要な点は、怪しい契約や不安を感じた時には、『188番』に電話して相談員に相談することです。この番号は休日も対応しており、相談員が助言してくれます。本日は、皆さんが議論し合うことで知見を深め、友人や仲間との交流を深めていただければと願っています。」とご挨拶頂きました。
文部科学省 総合教育政策局 男女共同参画共生社会学習・安全課
安全教育推進室室長 岩倉 禎尚 様
「今年のテーマは『今、高校生が考える生成AIとの付き合い方』と『誤情報・偽情報を超えた活用方法』ということで、今注目されている話題です。このテーマ設定は非常に有意義で、世界的な関心が高まっています。文部科学省では、教育、科学技術、学術、文化、スポーツの広範な分野を担当し、また、ICTの推進にも力を入れています。初等中等教育局では、学校教育におけるICTの導入を進めています。具体的には、『ギガスクール構想』により、生徒一人一台のタブレットやパソコンの利用を推進し、より効果的な学習を目指しています。また、情報モラル教育や情報活用能力の育成にも取り組んでいます。総合教育政策局では、青少年の有害環境対策を推進するとともに、ギガ端末を有効活用するための環境整備に力を入れています。ギガ端末の環境整備では、電子教科書や教育用コンテンツへのアクセスを容易にする、学習Eポータルの整備を進めています。これにより、各児童生徒の教育実施状況が簡単に把握でき、転校しても学習履歴が共有されるなどのメリットがあります。生成AIは便利ですが、偽情報や誤情報のリスクも伴います。本カンファレンスで高校生が主体的に議論し、良い提案をしていただけることを期待しています。昨年も文部科学省への提案が行われ、大変参考になりました。今年も活発な議論を通じて、生成AIの活用方法や偽情報への対応策について新たな知見が得られることを期待しています。」とご挨拶をいただきました。
警察庁 生活安全局 人身安全・少年課
少年保護対策室室長 兼 児童性被害対策官 前澤 綾子 様
「今回のテーマは生成AIと偽情報・誤情報の活用方法についてということで、高校生の皆さんがどのように考え、社会に貢献できるかを議論することを楽しみにしています。警察庁としては、最近ニュースで取り上げられる闇バイトやそれに加担する中高生を含む少年についても注目しています。この問題について石破総理も緊急メッセージを発表しました。闇バイトの多くはSNSを通じて情報を得ておりこれは偽情報の一種です。高額報酬のホワイト案件などは現実には存在しないものです。このような問題を防ぐためには、インターネットリテラシーを高めることが重要です。インターネットで知り合った人が必ずしも言っている通りの人とは限らず、流れてくる情報も真実とは限りません。何かおかしいと思ったり不安なことがあれば現実の人間関係の中でにおいても、お友達や家族、先生などに相談することが重要です。闇バイトの情報は今のところAIを使っていませんが、将来的には生成AIを使った本物そっくりの偽情報が出てくる可能性かもしれませんがあります。この問題に対してどう対処するかを今から議論することは大切だと思いますが重要です。皆さんの議論が社会に貢献し、問題の解決に繋がることを期待しています。本日のカンファレンスで多くのことを学び、活発な議論を楽しんでください。」とご挨拶頂きました。
経済産業省 商務情報政策局 情報経済課 企画官 船越 亮 様
「AIは日々進化し、その利用機会や可能性が拡大しています。特に生成AIは、チャットGPTなどの技術の普及により、世界各国で研究開発が進んでいます。従来の技術と比較すると、AIのリスクはまだ明確に見えず、実感しづらい点が異なります。これまではリスクが明確で対応策も分かりやすかったのですが、AIはリスクが不明確な中でも、利用と研究開発を進める必要があります。生成AIによって、誰でもあたかも真実であるかのような誤情報や偽情報を作れるようになり、これが 社会を不安定にし、混乱を招く可能性があります。本日のテーマは、これらのリスクをどのように克服すべきかを議論することです。生成AIの特性を理解し、そのリスクと向き合う方法を見つけることが重要です。皆さんの議論を楽しみにしています。」とご挨拶頂きました。
デジタル庁 国民向けサービスグループ 企画官 久芳 全晴 様
「デジタルは多くの人にとって便利である一方、不安なものでもあります。例えば、ご年配の方や保護者の方が、皆さんのスマホ利用に対して不安を抱き、ルールを設定したがることがあるかと思います。社会は危険を感じるとルールを設けたがりますが、そのルールが本当に適切なものになっているかは重要です。学校生活で時に感じる厳しい校則のように、ルールが縛りになってしまうこともあります。生成AIや偽情報・誤情報に関しても同様で、不安があるためにルールを作ろうという動きは当然発生します。しかし、世代によって生成AIの受け取り方は異なり、利用シーンや付き合い方、リテラシーも違います。リテラシーが高ければルールは少なくて済み、低ければルールを厳しくする必要があります。今日、デジタルに慣れ親しんでいる高校生の皆さんの意見に接することができるのは、私たち大人たちにとって貴重な機会です。デジタル庁はまだ若い組織ですが、昨年もこの会に参加して多くを学びました。今年も、高校生にとって生成AIはどういう位置付けで、どんなルールが適切かを議論し、そのアウトプットが各省庁に届くことを期待しています。」
とご挨拶いただきました。
第一部: 各開催地域代表生徒の自己紹介、地域の取り組みの簡単な紹介(各3分)
第二部:熟議 テーマ:今、高校生が考える生成AIとの付き合い方
ー「誤情報・偽情報」を超えた活用法を考えるー
代表17人をそれぞれ3グループに分けファシリテーターとのアイスブレーク後、以下のテーマについて熟議を行いました。
1,生成AIの活用と役割・・・生成AIの利用実態
2,生成AIの「誤情報・偽情報」とは・・・何故、人は偽情報を作るのか
3,生成AIの「誤情報・偽情報」を超えた活用法とはどのようなイメージか
・・・生成AIと偽情報、誤情報を見分けること、これからの活用方法
4,高校生が社会に対して果たせる役割とはなにか
・・・みずからの役割、高校生だからこそ果たせる役割(行動、発信、影響力)
各グループとも付箋や模造紙のメモとGoogleスライドをうまく活用することで効果的なディスカッションが行われました。またファシリテーターは今年もOBOGの大学生・大学院生などが中心となって円滑な進行を担って頂きました。
===今回の東京サミットの熟議のポイント===
■みなさんは生成AIを活用していますか、どのような目的、場面で? 1,創作する:画像生成、音楽生成、動画生成など 2,調べる:アイデアヒント出し、壁うちなど 3,まとめる:動画の要約、議事録作成、レポート作成など 4,話し相手:ディスカッション、ディベーション練習、英会話練習など
■生成AIの「誤情報・偽情報」とは・・・ 1,生成AIの誤情報、偽情報とは? 誤情報例)文脈のおかしな文章、不自然な映像、誤った統計、ハルシネーション 偽情報例)本物に似せたフェイク動画、偽ニュースWebサイト、投資詐欺等 2,生成AIの誤情報・偽情報はなぜ作られ、拡散されるのか? 例)だます、あおる、収益化する、面白半分、善意、正義、義務感等 3,誤情報・偽情報に気づくのはどんな時、なんで気づく? 例)不自然な画像、文字、会話、著作権侵害、不正リンク等
■生成AIの「誤情報・偽情報」を超えた活用法とはどのようなイメージか 1,生成AIの「誤情報・偽情報」を超えた活用法とは 例)情報ソース確認や比較、ファクトチェック等 2,エコーチェンバー・フィルターバブルの危険性に注意する 例)好きな情報のみに囲まれる、意見の偏り、SNS等に発生する閉鎖性など 3,著作権侵害などのリスクを知る 例)有名作家の作風によく似た映像、文章、音楽(依拠性、類似性リスク) 4,生成AIの新しい活用法 例)リスクを超えて活用することにより、より想像力や思考力を高めるツール、 作業効率化、創造力を刺激するものになりうる
■社会に対して高校生だからこそ果たせる役割とはなにか(行動、発信、影響力) 1,生成AIにいち早く触れる世代(高校生)から見た活用法 学習、授業、部活、進路選択、創作、相談、調査、生活の一部として 2,生成AIの活用を共有したいほかの世代は? 幼児、小中学生、大人、高齢者 ・・・ 3,今高校生が果たせる役割 家庭で、学校で、社会で・・・・
第三部:グループ発表
各グループごとにまとめたGoogleスライドを活用して4分の発表を行いました。(詳細は別紙「グループ発表資料」をご参照ください)その中で3班「情報と向き合う力」「新教育プログラム(授業科目化、企業内教育など)」「クロスチェックの実践」「新しくAIに関する法律を作ること(生成AIマークの義務付け)」「EU4段階リスクと罰則」、2班「フェイクニュース紹介コーナー」「電子透かし・AIウォータマーク(Google、Yahoo等へ)の世界共通規格化」等ファクトチェック(システムに組み込み)」、1班「AIに関する法律の制定」「世代別の安全な活用方法」「教育現場での生成系AI学習の義務化」「生成AI使用のライセンス化(使用には合格が条件)」どのグループも短い時間の中ではありますが、提言したいテーマを十分に練り上げ、充実した内容で堂々とした発表となりました。
講評のなかで米田実行委員長がまとめた各班のポイントは以下のとおり(発表順)
【3班】 「共生をするために自分たちにできること」
・新教育プログラム 情報と向き合う力を育む必要性(こどものみではなく大人も) →対論する授業、各企業で「研修」推進、クロスチェック
・AIに関する法律を作る (著作権違反、人権侵害、偽誤情報の流布防止)
→EUで運用されている法など
・・・・情報と向き合う力
【2班】「フェイクニュース紹介コーナー」設立
・画像生成AI悪用の防止
→世界統一の規格、電子透かし、AIウォーターマーク
・偽誤情報の検出と対処
→システム的なファクトチェック、フェイクニュース紹介サイト(FB、X、Yahoo、TVなどに)
【1班】「AIに関する法律の制定とAIに関する新たな利用法」
・理想のAIの活用法ってどんなもの
→学習効率の向上、学習スケジュールの管理
・世代別の理想的な活用方法
→幼児(遊び)学生(勉強、学習のスケジュール管理)大人(仕事)高齢者(認知症予防)
・教育現場での生成系AI
→学習の義務化:高校の「情報1」で生成AI単元追加
→学生用AIの作成:学習を補助、学習計画作成で活用
・ライセンス化
→マイナンバーカードとの結び付け、自国の憲法を学ばせた国産AIを使うようにする
→罰則:一定期間の使用制限、禁止、罰金
講評:大阪私学教育情報化研究会 副会長 米田謙三 様
今年のテーマは「高校生が考える生成AIとの付き合い方」で、生成AIの利用実態や情報作成の理由、偽情報や誤情報への対策が議論されました。AIの活用法としては、捜索、調査、まとめ、話し相手、アイディアのヒント、ディスカッション、ディベート、英会話の練習などが挙げられました。一方で、偽情報や誤情報の問題として、不自然な情報、誤った統計、ハルシネーション、フェイク動画があり、これらの拡散には利益や面白半分、義務感が関与しているのではとの意見がありました。ここからファクトチェックやフィルターバブルの危険性への注意、著作権遵守、想像力や思考力の向上を提案されていました。発表内容の振り返りでは、教育プログラムと法律、情報と向き合う力の育成を提案した3番班、フェイクニュース紹介コーナーや画像生成の悪用防止を提案した2番班、AIに関する法律と利用法、理想のAIの活用法を提案した1班と、それぞれ意見がまとめられました。
続けて、当日発表グループへの順位投票、及び12月10に開催される最終報告会に行く各グループの代表者3名が選出され全員に向け発表されました。
・長野県立松本県ヶ丘高校
・神奈川県立平塚江南高校
・神奈川大学附属高等学校
最後に参加者17名の集合写真を撮影して終了となりました。
「開催報告書」他


