ITが創り出すであろう“未来”の中で、いま最もホットなのが「自動運転車」だ。AI（人工知能）やセンシング、制御技術を駆使して、人に代わって自ら運転する自動車は、社会や産業に与えるインパクトが大きいため、全世界の自動車メーカーやITベンダーなどが研究開発に全力を傾けている。まさに“人類の長年の夢”がITによって実現されようとしているのだ。
だが私には、とても気になることがある。自動運転車はソフトウエアの塊だ。関連する全てのシステムのコード量を合わせたら、大手銀行の勘定系システムのそれを凌駕するものになるだろう。当然、巨大な分だけ多くのバグが仕込まれる。しかも運転は想定外の連続だから、システムが予期せぬ障害を引き起こすリスクが高くなる。
そして、プログラムのバグを踏んだり、仕様漏れが露見したりしてシステム障害が発生すれば、その被害は銀行の勘定系システムのトラブルの比ではない。勘定系システムのトラブルで破産する人はいないが、自動運転車のトラブルでは、下手をすれば悲惨な事故につながりかねない。
もちろん、私がこんな話をいちいちしなくても、自動車メーカーや産業政策として自動運転車の研究開発を推進する行政は、システムでは仕様漏れやバグを根絶することも、それに起因するトラブルが重大事故につながることも先刻ご承知だ。既に実用化している安全技術をベースに段階を踏んで、絶対にシステム障害を起こさない自動運転車の実用化を目指している。
「では問題無いじゃないか。タイトルの『恐ろしい未来』は単なる煽りか」と読者に言われそうである。だが、システムに絶対はない。自動運転車でもシステムに起因する事故が発生するのは避けらないだろう。とはいえ「恐ろしい未来」とは事故の話ではない。むしろ、事故を恐れるがゆえにひたすら完璧なシステムを追求していると、逆に恐ろしいことになると言いたいのである。
