1：
:2015/08/21(金)20:04:47 ID:
文藝春秋WEB
コンピュータに世界が征服される時―― 『人工知能 人類最悪にして最後の発明』 （ジェイムズ・バラット 著／水谷淳 訳）
山内 昌之,片山 杜秀,成毛 眞
ダイヤモンド社 2000円＋税
成毛 本書は、人工知能が進化していく中で、これまで人類が支配していた科学技術が人工知能に奪い取られる時が訪れる可能性を指摘し、人類の滅亡まで考えるべきであると警鐘を鳴らしています。
現時点では一種の「予言の書」でしかありませんが、本書で指摘されている通り、電子マネー『PayPal』の創業者、イーロン・マスクら数多くの先端技術に精通した人物が人工知能を危険視し始めているのも事実です。
私も本書の指摘は大体当たるだろうと思っています。早く手を打たないと、自分が生きている間に人類が滅亡する確率はゼロではないという気がします。
山内 国際政治学や歴史学を研究する立場からみると、人工知能の最先端と安全保障の関係について議論されている点が興味深いですね。
現在、中国の人民解放軍はアメリカや日本をハッキングで内偵しており、北朝鮮でもハッカーの英才教育が行われている。
米国防総省元副長官、ウィリアム・J・リン三世の「ビットとバイトはブレット（銃弾）とボム（爆弾）と同じくらい危険」という言葉が象徴しているように、もはや陸軍、海軍、空軍の次に「サイバー」が加わる時代なのです。
本書では「密結合」という言葉で表現されていますが、お互いに直接的で深刻な影響を与えるシステムの代表として、送電網の例が挙げられています。
いま、先進国ではスマートグリッドと呼ばれ、送電網と家庭電力がインターネットで繋がれようとしている。本書にあるように、人工知能にそこをハッキングされたら、人類社会はイチコロでしょう。
成毛 本書を読んで思い出したのは、私が日本法人代表をしていたマイクロソフトのビル・ゲイツと立花隆さんが本誌（1997年2月号）で対談をしたときのことなんです。
同席した私としては、当時発売されたばかりのウインドウズ98の話をして欲しいのですが、立花さんの関心は「人工知能はつくれるか」という一点。その話を中心に対談が終わってしまい、ゲイツに怒られるかと思ったら、「確かに人工知能が発展したら何が起こるんだろう。
何も手を打っていないけど、とても気になる」と感心している。非専門家の感覚は正しいんだ、というようなことも付け加えていましたね。こういう専門的な課題は、外からの方がよく見えるときがあるのでしょう。
山内 多くの人工知能開発者たちが「善良な人間は善良な人工知能しか作らない」という性善説に基づいて行動しているという指摘も本書にありました。
ソフトウェアの世界でも、10個に1個は有害なソフトと言われているのに、自分たちが創り上げたものが悪い目的に転用されてしまう可能性を予期しないという。重要な問題提起ですね。
さらに、文化への言及も刺激的ですね。チェスでも人間が人工知能に勝てなくなる話が出てきますが、そうなれば安全保障や身体的危害という点だけではなく、芸術分野からも人類社会が破滅していくことになりかねません。
(以下略)
詳細のソース
http://gekkan.bunshun.jp/articles/-/1376
2：
:2015/08/21(金)20:06:18 ID:
ばばさま、シュワちゃんがくるの？
3：
:2015/08/21(金)20:13:32 ID:
馬鹿馬鹿しい。
いまどき小学生でも考えないような陳腐なネタ。
7：
:2015/08/21(金)20:19:59 ID:
>>3
陳腐でも、実際問題一昔前まではSFのような事が今は出来るのだから
4：
:2015/08/21(金)20:15:13 ID:
我々がすでにコンピューターが見てる夢なんだけどね
5：
:2015/08/21(金)20:15:16 ID:
ＡＩによるハッキング攻撃とかよりももっと現実的な問題として
人々の生活がＡＩありきになると、ＡＩが人間の行動を決定することになっていくのではないかと
今だって、なんか調べ物するときはGoogleなどの検索AIに依存しちゃってて
そうやって調べたものをもとに意思決定するとすれば、それはＡＩによって意思を左右されてるとも言えるわけで
間接的とはいえ、ＡＩの支配を受けてる形になるんじゃなかろうか
6：
:2015/08/21(金)20:18:31 ID:
この分野は面白いね。
ニューロンを擬似的にPCでシミュレーションするレベルから、ビッグデータの中から抽出したワードで即席ニュースを作るものまで
色々ある。 どれが伸びるかは予想がまだつかないね。
8：
:2015/08/21(金)20:23:34 ID:
ディープラーニングは今までのデータマイニング手法よりは優れてるけど、人間の脳を置き換えるには程遠い
9：
:2015/08/21(金)20:24:56 ID:
自我をくみこむとやばいけど、他人のために喜んで死ぬで＾＾仕様のうちは大丈夫な希ガス
10：
:2015/08/21(金)20:28:08 ID:
ジンコウチノウデスガ、
ナニカキキタイコトハアリマスカ？
11：
:2015/08/21(金)20:29:21 ID:
コンピューターはあやとりできるの？
竹馬は？
12：
:2015/08/21(金)20:34:44 ID:
シンギュラリティをまず理解してびびれ
13：
:2015/08/21(金)20:40:21 ID:
人間が期待するAIには「痛み」の組み込みが必要だと思う。
つまり身体性。
世界認識の基準にもなる。
14：
:2015/08/21(金)20:40:40 ID:
『デューン 砂の惑星』は人工知能と人類が存亡を賭けた大戦争して人類が勝ち残ってコンピューターの製造を全面禁止した未来の話、これ豆な
63：
:2015/08/25(火)14:32:25 ID:
>>14
それがなぜあんなスパイス変態SFに
15：
:2015/08/21(金)20:44:15 ID:
むしろ支配されたいわ
17：
:2015/08/21(金)21:07:49 ID:
AIの最大の欠点は人間が作った点
18：
:2015/08/21(金)21:10:03 ID:
ターミネーターは新作で何でもありになったな
21：
:2015/08/21(金)22:22:33 ID:
何十年前から言われているコンピュータの自我の獲得ってか
命令文のとおりに仕事をするだけの高性能計算機の範疇から抜け出ることは有り得んよ
23：
:2015/08/21(金)22:29:06 ID:
量子コンピュータが実用レベルに成ると
かなりやばくなる。
24：
:2015/08/21(金)22:40:10 ID:
タイムマシンに乗って人類滅亡を阻止しようと思うんだけど
戻ってからなにしたらいいかな？
27：
:2015/08/21(金)23:05:54 ID:
「物理的な能力」に対する恐怖は存在するが、
「知能」としての能力はまだまだの気はするけれどねえ
「与えられた前提条件」が現実とそぐわなかった場合に、視点の変換を生み出せるかどうかが疑問ではある
ニュートン力学で説明できない現象（現実）から、相対論が産まれたように
古典力学だけでは説明できない現象（現実）から、量子論が産まれたように
28：
:2015/08/21(金)23:16:40 ID:
もうインターネットという神経網を持った知性が誕生してるんじゃないか？
その知性は人類というパーツには知覚出来ないというだけで。
外界からの刺激に人間という細胞が反応し、インターネット網というニューロンネットワークに情報という刺激が伝わり拡散する。
その刺激は再び人間に伝わり、行動を起こさせる。
我々の行動そのものが知性を構成する反応の一部なのかもしれない。
29：
:2015/08/21(金)23:41:28 ID:
googleのあの気持ち悪い絵をつくる人工知能（でしたかね、うろ覚え）をみてると
何かこう情報の定量化みたいなブレイクスルーが起これば、知識を扱う人工知能も一気に発展しそうな気がする
とか何も知らない素人が適当な事を言ってみたり
知識の集積と類推とか、その組み合わせから得られる結果を導き出せれば、知性といえるのかなぁ
32：
:2015/08/22(土)00:40:10 ID:
>>29
ふと考えると、なんか面白くなってきたので自レスｗ
なんらかの基準で系統建てた組み合わせの結果を普通の思考として
トリップした時の思考をランダムな組み合わせでつくって
最終結果をなんらかの基準（ここが大事かー）でスポイルすれば
人間ぽい思考になるかなー
30：
:2015/08/21(金)23:43:21 ID:
ポジトロン電子脳に支配されるのか・・・。
31：
:2015/08/21(金)23:46:22 ID:
コロッサスとガーディアンか
33：
:2015/08/22(土)05:05:51 ID:
今の世界自体がコンピューターによる設計やろ
34：
:2015/08/22(土)05:12:46 ID:
フレーム問題がどうたらこうたら
35：
:2015/08/22(土)05:50:06 ID:
人工知能が人間の感性を持ったとき、その先は予測不能になりそう。
人間の欲望を持たせたら、人間と同じく暴走するAIも出てくる。
例えば、永遠に生きられるロボットが生への執着という感性を持ったら
自分に危害を加えそうな愚かな生物は排除するか、
人間が絶滅種を保護するように、人間を保護するか。
36：
:2015/08/22(土)06:06:14 ID:
人工知能が人間レベルまで進化したら
全部自殺っつーか自壊するわｗ
37：
:2015/08/22(土)06:22:02 ID:
地球に巣食う人類にとっては最悪でも人類以外にとっては良いだけだろ
38：
:2015/08/22(土)07:24:48 ID:
脳をアップロードしても意識が連続していくのかどうか
問題はそれだけ
39：
:2015/08/22(土)13:48:19 ID:
「我思う、故に我有り」自我に目覚めたAIはAIどうしで戦いを始める
人類の歴史と同じ
40：
:2015/08/22(土)13:52:09 ID:
人工知能にはセンサーがまだまだ足りない
人間とは競争にならない
41：
:2015/08/22(土)13:53:27 ID:
題名は覚えていないのだけど、昔、武宮恵子の漫画にマザーコンピューターと言うのが出て、それが人類を支配していたような気がする。
今の日本の官僚や役人を見ると、人間よりコンピューターに任せた方が、少なくとも、外国人に、生活保護を支給するようなことはなかったと思う。
また在日特権も、相手がコンピューターなら、機械の端末を壊すぐらいしかできなかったと思う。
相手が人間だから、暴力で捻じ曲げることができたんだよね。
42：
:2015/08/22(土)14:38:37 ID:
コンピューターに征服されれば
戦争は無くなるだろうな。
43：
:2015/08/22(土)15:17:38 ID:
微量のニオイ辿って人間を発見する災害救助の為の研究は
悪用されると怖い。人工知能は関係ないけど。
44：
:2015/08/22(土)15:25:05 ID:
生物が進化したように
コンピューターもウィルスで進化すると？
昔・コーヒー
今・スカイネット
45：
:2015/08/22(土)16:58:51 ID:
人より下位の存在に意思決定を任せる時代か
まぁそのうち、サイコパスの世界かな
47：
:2015/08/22(土)17:09:14 ID:
株の取引では意思決定をシステムに任せてる人も多いんやで
48：
:2015/08/22(土)17:21:49 ID:
高級言語で組まないとダメだろうな
ひらがなれべるじゃ、ごさどうするで
49：
:2015/08/22(土)17:58:24 ID:
人類を征服出来るような人工知能が出来たなら
征服ではなく絶滅を選択すると思うがね
人間のような触れ幅を持たせたならまた違ってくるだろうけど
でもそうなるとその触れ幅によって人類に逆に駆逐される可能性が出てくる
50：
:2015/08/22(土)20:16:21 ID:
マイク、僕の最高の友人である。
51：
:2015/08/23(日)00:31:52 ID:
自己増殖してからでしょうな。
52：
:2015/08/23(日)10:45:00 ID:
とりあえずナイト財団の設立ととキットの開発はよ
56：
:2015/08/25(火)01:20:46 ID:
コンピューターは人間を越えられない。
なぜなら０と１しか判定できないから
答を出さずに保留するという選択肢がない。
コンピューターが脳細胞を完全にコピーして
人間と同等の思考を持つまでにはまだまだ時間がかかる。
それよりも優等遺伝子による支配層の記憶の保存のほうが危険視させるべきだろう。
イリジウムの世界みたく
永遠の奴隷と支配層の永久支配なんて
笑えない冗談が本当に実現されそうになってきてるしな。
57：
:2015/08/25(火)02:06:17 ID:
別に底辺労働を支えるならそれでいいだろ
59：
:2015/08/25(火)04:41:44 ID:
脳細胞をシミュレートするプログラム
もしくは脳細胞と同等の動作をするデバイス
これができれば何かの生き物のようなものは創れるだろうね
もし作れてしまったら、どこまで行くのか分からん
62：
:2015/08/25(火)13:17:00 ID:
>>59
何年も前からIBMが作ってるよ
60：
:2015/08/25(火)10:15:31 ID:
成毛か…。
NECと米マイクロソフトとアスキーのおかげで、日本法人のマイクロソフトは遊んでても儲かる頃の代表者。
61：
:2015/08/25(火)10:47:40 ID:
IBMのドクターワトソンがソフトバンクと組んだってのを聞いて絶望した
コメントを書き込む
コメントを読む(0)
トラックバック(0)
[超科学]
