[ オピニオン ]

【電子版】論説室から/AIの「ブラックボックス」問題とは

(2017/10/12 05:00)

 人工知能(AI)のビジネス活用が広がる中で、AIの「ブラックボックス」(中身が見えない)問題が取り沙汰されている。企業などからは「説明責任が求められる基幹業務にはブラックボックスは馴染まない」との指摘も多い。こうした課題を技術力で克服し、今回のAIブームが地に足のついたものとして発展していくことを期待したい。

「ホワイトボックス」型AIの実現へ

 AIに革新をもたらしたのは、人間の神経回路網をモデルとしたディープラーニング(深層学習)の技術進化だ。大量なデータを学習するだけで、自動的に未知の入力データを分類・推定する機能を獲得できる。その用途は幅広く、すでに人間を凌駕する成果が多数報告されている。

 しかし、ディープラーニングはアルゴリズムが決め手であり、難解な算式を見ても「どのような根拠で答えを出したのか」は分からない。これがブラックボックス型AIとも呼ばれる由縁だ。

 これに対して、「なぜそのような答えになったのか」という根拠や理由が分かるのが「ホワイトボックス」型のAIだ。その代表ともいえるのは、技術的に成熟している「機械学習」だ。産業界で相次ぐAI活用の実証実験は一部の先進事例を除くと、機械学習が中心となっている。

 一方、企業にとって一番大事な顧客データや製造・販売データは使い慣れた社内のリレーショナル・データベース(RDB)に格納されている。これらを「機械学習で分析したい」とするニーズは強いが、RDBに格納されているデータ形式はそのままでは機械学習には使えない。

 このためAIの利活用の舞台裏では、専門知識を備えたデータサイエンティスト(分析官)らがデータの整理整頓に奮闘するなど、人手による力業で乗り切っていることが少なくない。

 こうした課題を解決しようと、IT各社が動き出している。NECは複数のRDBから人手を介さずに、必要なデータ項目を抽出して予測モデルを完全自動で作り出す「予測分析自動化技術」を開発した。データサイエンティストと同等以上の予測分析をユーザー自身が短時間で実現することが可能。しかも「予測結果がどういう根拠で、変数をどう判断したかまで提示できる」(NEC)という。 開発したのはNECの北米研究所。ホワイトボックス型AIの汎用プラットフォームとして、まずはAIの本場である米国市場に投入する。

ブラックボックス問題に挑む

 ブラックボックス型AIに対して、説明機能を持たせる新技術の開発も進展している。富士通研究所はディープラーニングのブラックボックス問題に対して、どのように学習・推定し、なぜその答えを出したかを説明できる仕組みを開発し、実用化のめどを付けた。

 同社の発表資料によると、グラフ構造のデータを学習する独自のAI技術「ディープ・テンソル」と、学術文献など専門的な知識を蓄積した「ナレッジグラフ」と呼ばれるグラフ構造の知識ベースを関連付けることで実現したという。「個々の入力データについて、ディープラーニングの出力結果から、逆に探索して、推定結果に大きく影響した複数の因子を入力データの部分グラフとして特定できる」(富士通研)としている。

 発表の文面だけでは分かりにくいが、平たく言えば、ディープラーニングが出す答えについて、学習する前の入力データに着目し、アウトプット(答え)との関係性を導き出すことで根拠を探ろうという試み。こういったアプローチは他にはなく、2018年度には実用化する計画だ。

 国産IT各社がこうした課題に果敢に挑んでいることは頼もしく、今後の取り組みに期待したい。

 かつてのAI研究は、人間のイミテーション(模倣)を作って置き換えるような発想で取り組んでいたため、世間に受け入れらなかった。「第3次」となる昨今のAIブームは人間を中心に据えて、人間とマシン(AI)が協調して社会課題を解決することに焦点が当たっている。

 米IBMの研究者も「よりよい意思決定をサポートすることがAI研究のゴールだ。医療でいえばAIが医者に代わることはなく、医者のいない世界はあり得ない」と断言する。ブラックボックス問題への取り組みも同様で、人間中心の考え方が根底にある。

AIの技術進化の可能性

 もとよりAIは万能ではなく、ブラックボックス問題をはじめ技術課題を一つひとつクリアしていくことで、新しい世界が拓けてくるのは言うまでもない。

 もちろん、AI研究に関する夢も大いに語るべきだ。ユビキタスエンターテインメント(東京都文京区)の清水亮社長は「AIに足りない要素は、新しいものを見たときに『面白そうだ』と思う好奇心だ」と指摘する。“新しもの好きなAI”が実現できれば、人間が指示せずとも子供のように自分から学ぶ。AIが好奇心のままに学習を繰り返すうちに「世紀の大発見をして、論文まで生成するかもしれない」(清水氏)というわけだ。

 同氏は講演で「分類できないものを見たときに興奮する回路を作れば、2030年までにAIがノーベル賞を受賞するかもしれない」と冗談交じりに語る。こうした夢のある話を語れるのもAIの妙味といえる。

 個人的には、AIへの過剰な期待には違和感を感じるが、このままブームが続けば、いつかAIがノーベル賞を受賞する日が来るかもしれないと、ふと思うことがある。AI研究のさらなる発展に夢を託したい。

(斎藤実)

(2017/10/12 05:00)

おすすめコンテンツ

今日からモノ知りシリーズ 
トコトンやさしい半導体パッケージ実装と高密度実装の本

今日からモノ知りシリーズ トコトンやさしい半導体パッケージ実装と高密度実装の本

未来の科学者との対話18
第18回 神奈川大学全国高校生理科・科学論文大賞 受賞作品集

未来の科学者との対話18 第18回 神奈川大学全国高校生理科・科学論文大賞 受賞作品集

今日からモノ知りシリーズ 
トコトンやさしい工作機械の本
第2版

今日からモノ知りシリーズ トコトンやさしい工作機械の本 第2版

よくわかる電子機器実装の品質不良検査とコスト削減

よくわかる電子機器実装の品質不良検査とコスト削減

技術士第一次試験 
「電気電子部門」択一式問題200選
第6版

技術士第一次試験 「電気電子部門」択一式問題200選 第6版

NCプログラムの基礎〜マシニングセンタ編 上巻

NCプログラムの基礎〜マシニングセンタ編 上巻

Journagram→ Journagramとは

PR

電子版クレジットカード決済が対象になりました。キャッシュレスでお支払いのお客様に5%還元 ご存知ですか?記事のご利用について

カレンダーから探す

閲覧ランキング
  • 今日
  • 今週

ソーシャルメディア

日刊工業新聞社トピックス

セミナースケジュール

イベントスケジュール

PR

おすすめの本・雑誌・DVD

ニュースイッチ

企業リリース Powered by PR TIMES

大規模自然災害時の臨時ID発行はこちら

日刊工業新聞社関連サイト・サービス

マイクリップ機能は会員限定サービスです。

有料購読会員は最大300件、無料登録会員は最大30件の記事を保存することができます。

会員登録/ログイン

このサイトでは、アクセス状況の把握や広告配信などのためにクッキー(Cookie)を使用してしています。このバナーを閉じるか閲覧を継続した場合、クッキーの使用に同意したこととさせていただきます。なお、クッキーの設定や使用の詳細についてはプライバシーポリシーページをご覧ください。

閉じる