e-論壇「百家争鳴」 e-論壇「百家争鳴」 東アジア共同体評議会 東アジア共同体評議会
 「百家争鳴」へようこそ。投稿へのコメントでないご意見は「新規投稿する」ボタンをクリックして投稿してください。
 なお、投稿記事を他所において引用、転載する場合は、その記事の出所が当e-論壇であることを明記してください。

投稿日で検索  //// 
キーワードで検索   
※キーワードはスペースで区切って複数の言葉を入力できます。
  <<前の20件 | 最新|次の20件>>  [ スレッド一覧 | *タイトル一覧 | 投稿一覧]
中国の大学生と作ったAI原則5条   
投稿者:加藤 隆則 (非居住者中国・男性・汕頭大学長江新聞與伝播学院教授・50-59歳) [投稿履歴]
投稿日時:2018-07-07 20:49 [修正][削除]
>>>この投稿にコメントする
No.3357
 先学期、初めて人工知能(AI)に関する授業「人工知能時代のメディア」を始めた。その前の学期には、「現代メディア課題研究」の授業でAIを主テーマにしたところ、学生の強い関心と反響があったので、先学期から独立させた。全16週授業の目標を、「AI原則」の制定に置いた。まずは小グループに分かれ、AI発展の歴史から生活の中のAI、就職への影響、安全リスク、メディアの中などのテーマごとに基礎的な研究をし、その土台をもとにそれぞれの原則を起草した。自薦で3人の起草グループを作り、そこで全体の取りまとめをした。論議の過程で、「原則」は法規則のようで堅苦しいとの指摘があり、最終的にクラス全員の賛同を得て、「私たちのAIドリーム」5条が誕生した。言うまでもなく、SF作家のアイザック・アシモフが1950年、作品の中でロボットが従うべきとして示された原則、いわゆる「ロボット3原則」を引き継いだものである。以下が、アシモフの唱えた3原則で、その後、ロボット工学など幅広い分野に影響を残した。「第1条:ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。第2条:ロボットは人間から与えられた命令に服従しなければならない。ただし、与えられた命令が、第1条に反する場合は、この限りでない。第3条:ロボットは、第1条および第2条に反しない限り、自分自身を守らなければならない」。

 すでに昨年2月、米ボストンに拠点を置く学術支援団体「Future of Life Institute(FLI)」が、カリフォルニア州アシロマに各分野の専門家を集め、「人類にとって有益なAIとは何か」を5日間にわたって議論し、「アシロマAI原則」23条を公表した。この原則 は、AIの研究、倫理・価値観、将来的な問題の3つ分野に関して、安全性や透明性、プライバシーや人間の尊厳の尊重、利益の共有、軍拡の反対までを網羅したきめ細かい規定だ。最初の授業で私がAI原則の制定を掲げたとき、多くの学生はすぐに意味が呑み込めないようだった。ある学生は「すでに権威のある原則ができているのに、どうして私たちがまた考えなくてはならないのか?」と私に尋ねた。私の答えは明確だった。「人間の知能にとって代わり得るAIの開発は、われわれの生活や生き方そのものにかつてないほどの変革をもたらす可能性がある。専門家だけにゆだねるのではなく、すべての人が関心を持つべきだ。そして、すべての人に発言権が与えられるべきだ。われわれがその先例を作ればいい」。議論の過程で何度も繰り返したのは、世の中がどうなっていくか、どうあるべきかを大上段に語るのではなく、私たちがどうあってほしいかを若者の目で率直に訴えようではないか、との呼びかけである。次代を担う若者たちのアピールである。こんな具合にクラス35人の探求が続いた。

 習近平総書記が昨年10月、第19回共産党全国代表大会の報告で、経済の質的強化を実現するため、製造業の強化とともに、「インターネット、ビッグデータ、人工知能と実体経済を密接に結びつける」ことを柱に据えた。百度(バイドゥ)、阿里巴巴(アリババ)、騰訊(テンセント)の3大ICT企業(頭文字をとってBATと呼ばれる)などが膨大な資金と人材を投じ、世界最先端のAI技術開発に参入している。こうした社会の後押しを背景に、高度成長期に育った大学生たちは総じて新技術開発に楽観的、肯定的で、包容力があり、明るい未来を描いている。一方、中国の伝統文化を根に持つ若者たちは、欧米には見られない、独自の道徳観を持っている。期末論文のテーマを「AI教師に何を感じるか?」としたら、かなりの数の学生が、人間の魅力や仁愛によって人を導く教育は、AI教師には代替ができないと書いてきた。起草の段階でも、AIに道徳観を期待できるかどうかで議論が起きた。AI原則ではこうした伝統文化の要素も重視した。さらには、メディアを学ぶ新聞学院の特色をも加味した。ロボット3原則は「こうであらなければならない」と義務付ける法規定のようだったが、若者が将来に期待するAIドリームは、断定調、命令調は避け、こうあってほしい願うスタイルにした。こうして、以下の5条と注釈が生まれた。「第1条:私たちは、AIが人類の幸福追求と夢の実現を助けるよう希望する(AIは優れた技術によって人類の生活をさらに便利に、快適にするばかりでない。個別的なサービスによって個人の要求を満たし、さらには個人の自己探索、夢の追求をも支え、人類の精神や感情の求めにより多くの関心を注いでくれる)。第2条:第1条を満たす条件のもとで、私たちはAIの発展を支持し、さらに自由な発展の空間を与える(AIの発展は、人類がよく問題を解決するのを助ける方向に向かい、人類がAIの成果を享受する前提のもとで、私たちはAIを認め、支持し、相互作用の中でより多くの信頼と包容力を与える)。第3条:私たちは、AIが人類の道徳的価値観を守り、自然と生命を尊重するよう求める(AIは私たちとともに生存の環境を享受することができるが、それはその活動が人類の利益を侵さないとの前提があり、人類が共有する価値観が最低ラインである)。第4条:私たちは、AIは人類の生活の中で多様な役割を担い、安心感を与えるものだと考える(人類のAIに対する欲求は異なるので、AIは、例えば助手や仲間、家族など、多様な役割を担い、人類を助け、あるいは人類に付き添う。技術上の安全を確保する以外、AIは愛すべき非人類の外見を持ち、人間的なサービスによって冷たい印象を取り除き、人類に安心感を与えるものである)。第5条:私たちは、AI研究の本質が人類自身の探求を目指すものだと信じる。これはAI技術の発展によっても変わることはない(人類とAIは対立の関係ではなく、AIは人類が自己を研究し、人間相互の関係を研究する際の鏡となる。人類がさらによく自己を知り、探求するのを助け、人類の自信を強める。AIはフィードバックによって人類との交流を強化し、人類とともに発展し、進歩する)」。

 米国映画のような人類の敵となるのではなく、ドラえもんのようなかわいい仲間であってほしいと願う声があった。冷たいキャラクターではなく、ぬくもりのある、人に安心感を与える存在であってほしいと望む声もあった。道徳観念に対する強いこだわりもある。そのうえで、AIを受け入れ、ともに暮らし、同じように自然と生命を尊重し、独自の自由な空間を与えてもよい、との発想が生まれた。最後の第5条は、AIと向き合い、人とAIの相違点を探索することがすなわち、人間の存在、価値を見直し、再認識する契機となるとの認識である。それは自己、自我の追求という大学の目的にもつながっている。学生たちにとって最大の収穫が第5条の発見だった。起草グループの3人からは、有意義な勉強ができたと感想が届いた。

No タイトル 投稿者 日時
3404 (連載2)中国の対米外交に出口戦略はあるか ←  (連載1)中国の対米外交に出 牛島  薫 2018-09-17 08:27
3403 (連載1)中国の対米外交に出口戦略はあるか 牛島  薫 2018-09-16 11:50
3402 (連載2)共産党は憲法体制と矛盾しないか? ←  (連載1)共産党は憲法体制と 加藤 成一 2018-09-15 09:25
3401 (連載1)共産党は憲法体制と矛盾しないか? 加藤 成一 2018-09-14 18:31
3400 (連載2)沖縄知事選のゆくえ ←  (連載1)沖縄知事選のゆくえ 岡本 裕明 2018-09-13 17:35
3399 (連載1)沖縄知事選のゆくえ 岡本 裕明 2018-09-12 19:49
3398 (連載2)自由貿易主義で国家は何を失うのか? ←  (連載1)自由貿易主義で国 倉西 雅子 2018-09-11 10:26
3397 (連載1)自由貿易主義で国家は何を失うのか? 倉西 雅子 2018-09-10 21:03
3396 最近の日中関係について 中山 太郎 2018-09-08 13:49
3395 危機に瀕する中国経済 赤峰 和彦 2018-09-07 11:19
3394 「辺野古埋め立て承認撤回」は法的根拠に乏しい。 加藤 成一 2018-09-06 16:04
3393 漂流する北朝鮮問題 岡本 裕明 2018-09-05 19:34
3392 円高リスクを招く日銀 田村 秀男 2018-09-04 17:08
3391 終わらない三つ巴の世界大戦 倉西 雅子 2018-09-03 12:11
3390 (連載2)トランプ大統領へのしっぺ返し ←  (連載1)トランプ大統領へのしっ 岡本 裕明 2018-08-31 11:31
3389 (連載1)トランプ大統領へのしっぺ返し 岡本 裕明 2018-08-30 21:01
3388 (連載2)米中貿易戦争は米国農業が変わるチャンスか ←  (連載1)米中貿易戦 倉西 雅子 2018-08-29 11:10
3387 (連載1)米中貿易戦争は米国農業が変わるチャンスか 倉西 雅子 2018-08-28 17:15
3386 ミャンマー、ウズベキスタンを訪問して 鈴木 馨佑 2018-08-27 21:08
3385 貿易戦争、韓国は中国の道連れに 田村 秀男 2018-08-24 17:14

  <<前の20件 | 最新|次の20件>>  [ スレッド一覧 | *タイトル一覧 | 投稿一覧]