「分散型AI」全翻訳 -SingularityNET CEO TEDx講演-

今日お話ししたいのは AIの分野です。現在のAIはどこに来ているかというとかなり素晴らしい場所です。そして今後数年、数十年でAIはどこに行くかというと、これもポジティブな意味で本当に素晴らしいものになると思いますが、劇的であまりポジティブではない方法になる危険性もあります。
そこで、AIが今どこにいるのか、どこに向かっているのか、そしてAIを次のレベルへ導くための分散型制御の重要性についてお話したいと思います。

What I want to talk to you about today is where I see the AI field, as it is now you know where AI has come, which is a pretty amazing place and then where AI is going in the next few years and decades, which I think also can be really amazing in a positive way, but also has some risk of being dramatic and a less positive way. And so, I want to talk about where AI is now where it's going and then we're going to talk about the importance of decentralized control in guiding AI to the to the next level. 

AIを本当に大局的に見ようと思えば、その始まりは1950年代ダートマス大学で開催された最初のAIサマーワークショップと言えるでしょう。
1930年代に出版されたノーバート・ワイナーのサイバネティクスがその始まりと言えるでしょう。いずれにせよ1世紀近く存在しています。
しかしここ5～10年で本当に本領を発揮してきました。私が「狭域AI」と呼ぶものが驚くほど普及しています。AIとは特定の問題を 非常にうまく解決できるもので、多くの場合 人間よりも優れています。
しかし私はキャリアの大半を次のステップ AGI(Artificial general intelligence:人工一般知能)について考え、活動しています。これは一般化できるAIで、人が今まで想像もしなかった領域や問題に知識を伝達するように、創造的に夢を見て、存在しなかったものを想定し、それを創造することができるもので、狭義のAIからAGIへと移行します。
しかし、私の研究チームもあります。Google DeepMindやFacebook、多くの一流大学、多くの大企業、中国、米国外のロシアなどにもチームがあり、積極的に一般知能を目指しています。
まだ推測ですが、私のキャリア内で例えば今から5～20～30年以内にそこに到達すると信じていますし、私も他の多くの人たちと同様に早く到達できるよう努力しています。もちろん、それで終わりではなく、人間の頭の中にある一般化、想像、創造、反映の能力を持ったAIができれば、コンピュータサイエンスもエンジニアリングもできるようになり、インターネット上のあらゆる情報を読み取ることができるようになります。

If we want to look at AI in the really, really big picture. I mean that the AI field has been around a while you could put the beginning in the 1950s with the first AI summer workshop at Dartmouth College. 
You could put it earlier with Norbert wieners book cybernetics in the 1930s one way or another it's been around Close to close to a century, but only in the last, let's say five to 10 years has it really come into its own and we now have an amazing proliferation of what I call narrow AI is AI as you can solve very particular problems very well in many cases better than human beings but I've spent much of my career thinking about and actively working toward the next step what I call AGI artificial general intelligence. This is AI that can generalize, like people transfer knowledge to domains and problems they've never imagined before they can creatively dream and envision things that didn't exist and then create them moving from narrow AI to AGI. 
Now, we're not there yet. But there's my own research team. There's teams in Google DeepMind and Facebook and many top universities actively and many large corporations and in China, Russia outside the US I mean actively working toward general intelligence and it's still speculative, I believe we gonna get there within my career within let's say, five to 20 or 30 years from now and I'm working to make it sooner as are many, many others. But that's of course not the end once you have an AI that has the human minds capability to generalize, imagined dream and create and reflect this AI will be able to do computer science, it will be able to do engineering, it will be able to read everything on the internet. 

AIや人工超知能と呼ばれるAGI(Artificial general intelligence)が、私たちがバクテリア、
ゴキブリ、ネズミを超えるのと同じくらい早く私たちを超えるようになるまでの時間は、そう長くはないでしょう。ええ、私は1970年代初頭から、このようなアイデアをずっと考えてきました。最近になって、この考え方は真剣に受け止められ始めています。学会では、NOAAナショナル・リーダーが、大企業のCEOと一緒になって、これらの議論をする事が出来ます。私たちが生きている間に コンピューターは私たちよりも賢くなり、もしかしたら途方もなく賢くなるかもしれない。これは素晴らしい機会であり心配でもあります。
これまでのところAIで注目されている成功例のほとんどは、比較的似かよった種類の領域でした。
つまり、(囲碁や将棋などの)ゲームプレイはその一例で、信じられないようなものです。確かに、囲碁やチェスをするプログラムは人間よりもずっとずっと優れています。
しかし、囲碁にはたくさんの組み合わせがありますが、それでも19×19の盤面です。スタークラフトのようなものでさえ、人間の幼児が対処しなければならない世界と比べると、非常に制約があります。ですから、AISはまだ比較的狭い範囲にしか対応できず、私たちが暮らす日常的な世界のカオス的な輝きに触れると、少し息が詰まるような状態です。しかし、私たちはこれを克服しようと努力しています。指数関数的な進歩の性質は、人間の脳には理解しがたいものだと思います。しかし、多くの領域で、私たちは過去2年間に達成した以上の進歩を1年間で遂げており、進歩が加速しているようです。すべてにおいてスピードアップしているわけではありません シャツや靴下やフォークは管理者とほぼ同じですが全体としてはAIでスピードアップしています。遺伝子技術でスピードアップしています。

I think it's not going to be an extremely long time between AGI what you call as AI or artificial super intelligence, which is, you know, could quickly become as far beyond us as we are beyond say a bacterium, a cockroach or a mouse. Right. And I know I've been thinking these ideas as long as I can remember since early 1970s. Lately, they're starting to get taken seriously. You can discuss these at academic conferences are with the NOAA National leaders are CEOs of major corporations. And that's now taken as a plausible reasonable thing that yes, you know, in our lifetimes, computers may be smarter than us and maybe tremendously smarter than us and then this is both an amazing opportunity and and the worry, right and most of the high profile successes of AI so far, have been relatively close sorts of domains. So I mean, game playing is an example that's incredible. Certainly. These these programs playing Go and chess better than any human far, far better than I ever had. But you got to remember that you know, go has a lot of combinations, but it's still a 19 by 19 board even something like Starcraft is very constrained compared to the world a human infant has to deal with. So we're still at the level of AIS that are good in relatively narrow domains and that choke a bit when you give them the full chaotic splendor of the everyday world that we live in. But we're working to over to we're working to overcome this and I think the nature of exponential progress can be hard for the human brain to comprehend. But, you know, in many domains, we're making more progress in the year than we made in the previous two years, like progress is speeding up. It's not speeding up with everything I mean, shirts and socks and forks remain about the same as admin, but a whole lot but you know, it's speeding up with AI, it's speeding up with genetic technology is speeding up with with now that technology is speeding up in a lot of different ways. 

今、技術はさまざまな方法でスピードアップしています。AIがAIを改良し始め、驚異的なスピードでどんどん賢くなっていて離陸が間近に迫っている、というのが妥当な見方でしょう。狭義のAIからAGI、そして超知能への革命的な移行を実現するためには、さまざまなアプローチがあります。現在、人間の脳の非常に緩やかなモデルに基づいて作られたディープニューラルネットは、非常に人気のあるAIの一種であることは知っています。私は、これとは少し異なるアプローチを提唱しています。オープンソースのツールキットに「OpenCog」というものがあります。ネットで調べてみてください。神経記号知識グラフの一種を使ってニューラルネットで感覚データを認識します。抽象的な推論には確率的論理の一種を使い進化過程のシミュレーションを使って新しいアイデアを生み出します。
しかし、ディープニューラルネットだろうが、OpenCogシステムだろうが、今開拓されている他の多くのアプローチの一つだろうが、素晴らしいのは多くの研究チームがフルタイムで働いていて特定のことをするAIアプリケーションを作るだけでなく、人工知能を突破しようとしているということです。

Now that technology is speeding up in a lot of different ways. 
And there's a reasonable argument we're, we're nearing a takeoff where AI is going to start improving AI and it's going to be getting smarter and smarter than astounding pace. There's a number of different approaches to realizing this revolutionary transition from narrow AI to AGI and to super intelligence. I know deep neural nets are very popular species of AI now which are based in a very loose model of the human brain. I've been sort of putting forth a somewhat different approach. There's an open source toolkit called opencog. You could look up online where we use a sort of neural symbolic Knowledge Graph use neural nets to recognize sensory data, and you use a sort of probabilistic logic for abstract reasoning you use simulations of evolution processes to come up with new ideas, but you know, whether it's a deep neural net or an opencog system, or one of the other many approaches being pioneered right now, what's cool is there's a lot of research teams working full time on not just building their AI applications doing specific things, but trying to break through the artificial general intelligence.

私が最近よく取り組んでいるのは、AIのパイオニアであるマービン・ミンスキーが「心の社会」と呼んだもので、「心の経済」とも呼ばれています。一般的な知能や超知能へのブレークスルーをもたらすのは、一人の人物や一人の企業によって書かれた一個のアルゴリズムではないかもしれない。
異なるAISのネットワークで、それぞれが特定の種類の問題に特化して異なることを行うかもしれません。
AISのネットワークが協力して、ある種の創発的な知能を形成することで、ブレークスルーがもたらされるのかもしれません。ヨーロッパのブリュッセル自由大学には「グローバル・ブレイン・インスティチュート」という研究所があり、このことを専門に研究しています。その観点では、インターネット上に住むすべてのAIと、世界中のすべての組み込みデバイスが通信し、互いに通信し、互いにデータを共有して仕事をアウトソースし合うネットワークと見ることができます。このAPIのネットワークは、一般的な知能が出現するためのプレバイオティクス・スープのようなものと見ることができます。何もないところからではなく、多くのAISが互いに協力し合い、互いの知能を高め合っているのです。もちろん、ここには素晴らしい可能性だけでなく、多くのリスクや心配事があります。

And one possibility I've been working toward a lot lately is what AI pioneer Marvin Minsky had called the Society of minds which is also an economy of minds the idea that it may not be one algorithm written by one guy or one program. By one company that gives the breakthrough to general intelligence and then super intelligence. It may be a network of different AIS, each doing different things specializing on certain kinds of problems. Some of them specializing in generalization, that abstraction, and maybe this network of AIS, cooperating together forming sort of emergent, emergent intelligence, maybe how we get the breakthrough. You could think of this as a as a global brain and there is an institute at the Free University of Brussels in Europe, called the Global Brain Institute, which is devoted specifically to thinking about this. In that perspective, you could look at the network of all the AI's living on the internet and all the embedded devices around the world, communing, communicating together, sharing data with each other outsourcing work to each other. This network of API's can be viewed as a sort of like prebiotic soup for the emergence of general intelligence, not out of nothing, without as many AIS cooperating with each other and boosting each other's intelligence. Of course, there are many risks and worries here as well as amazing possibilities. 

私がこのことを公言してきた数年間で、おそらく5、6年前は、誰もが手を挙げて、待てよ、AIに乗っ取られてみんな殺されるんじゃないか?電池にされるんじゃないか?と言っていたのに、ここ数年は、誰も聞かなくなりました。AIに仕事を奪われ、失業してしまうのでは？これは興味深い変化です。最初は、AIに殺されるのは当然だと考えていました。でも、その殺される前の最後の数年間は、まず失業したくないというだけだったんです。
しかし、本当に私はそれがAIがターミネーターのように凶暴化し、すべての人を殺すという考えを排除することはできません。でも、日常生活に触れるようなものではありません。今現在、そして、その可能性が極めて高いとは思いません。どんな新しい技術でもそうですが、その確率をゼロにすることはできないと思います。
一方、AIは人々の仕事を奪うか、人々の仕事を再定義して、より悪く、より面白くなく、より儲からないものにするという見通しです。これは現実に起こっていることで、今まさに見ることができます。
つまり、トラック運転手のような職種があり、長距離トラックの運転手は、高速道路を走る自動運転トラックに取って代わられる可能性があることは非常に明白です。
つまり、AIが人間の仕事を奪い、より少数の専門的な仕事に置き換える可能性があるのです。これは非常に現実的な問題になり得ると思います。

I've noticed in the years I've been speaking publicly about this, maybe five or six years ago, everyone would raise their hand and say wait, but isn't the AI going to just take over and kill us all or turn us on to batteries or something and the last few years, it's shifted, no one asked anymore. They just say well, isn't the AI going to take all our jobs and make us unemployed? And it's an interesting shift. At first I thought people would take him for granted the AI was going to kill them. But they just didn't want to be unemployed first during the last few years before, before that murdered. But really, I think it's the idea of AI is going berserk like the Terminator and killing everyone. You can't rule it out. But it's not something that touches your everyday life. Right right now, and I don't think that's extremely likely. I
also think you can't reduce those odds to zero as as with any new technology, whereas the prospect of AI is, you know, taking away people's jobs or redefining people's jobs to make them worse and less interesting or lucrative. I mean, this is a real thing you can see right now right I mean, there's whole job categories like truck drivers it's I think it's very palpable the long distance truck driver and can be replaced by self driving trucks on the on the on the highway and eventually these automated cashier things at the supermarket may actually start to work and then then that job category goes away, right. So I mean, we can see a real potential that AI will be taking away human jobs and replacing them with a smaller number of more expert jobs perhaps which can then lead to a magnification of the already existing trend of global wealth and income inequality. And I think this can be a very real problem. 

アメリカや西ヨーロッパでは、ユニバーサル・ベーシック・インカムという考え方が広まっていますが、中央アフリカ共和国の平均的な自給自足農家に誰がユニバーサル・ベーシック・インカムを与えるのだろうと考えてしまいます。
つまり、AISやロボットが人間が行っている仕事をどんどんこなすようになると、地政学や経済学がどうなるのかがよくわからなくなるんです。アメリカや中国のような巨大な政府か、これらの政府と密接に連携している一握りの大企業か、誰がAIをコントロールしているのかを考えると、これは少し厄介なことになります。
政府や大企業はデータを蓄積し、計算能力を集中させ、すべてのAI博士を雇っていますが、これが最適とは限りません。地球規模の脳と人工知能、そして超知能を構築しているのだろうかとあなたは疑問に思う必要があります。

And so we see in the US and Western Europe, the notion of universal basic income rising up but then you wonder, like, who's gonna give universal basic income to the average, say, subsistence farmer in the Central African Republic? I mean, it's, it's not very clear how the geopolitics and economics are going to work out here as AIS and robots are able to do more and more tasks that that humans are now doing. And this becomes a little more troublesome when you think about who controls AI now whether there's a couple of very large governments like US and China, there's a handful of very large corporations which work very closely together with these governments. They're accumulating the data, they're concentrating the computing power and they're hiring all the all the AI PhDs right and this, this this may not be optimal. And you have to wonder if we're building like a global brain and artificial general and then super intelligence. 

この超知的なグローバル・ブレインは、どのような幼児AISから生まれるのでしょうか？
それは主に人々を監視することや必要のないものを売ろうとすること、そして誰を爆破するか考えることに関わっているようです。
広告や監視や軍事といったものから超知性を出現させることが本当に必要なのでしょうか?
つまり、これらのことが悪いわけではなく、社会的に何らかの理由で役に立つのですがおそらくAIの主な焦点ではないのです。今日のAIより大きな知性が右から左へと出現していくものと見なすなら、そこには多くの負の可能性があり、あまり遠くまで行かなくても悪いことが起こる可能性があるのです。

What sort of infant AIS is this super intelligent global brain coming out of? 
Well, it seems to be one that is primarily concerned with spying on people with trying to sell people stuff they don't need and then with figuring out who to blow up, right, and is this really what we want the super intelligence to emerge out of that advertising, surveillance and military I mean, not that those things are bad, they're all They're all useful for some reason in society, but perhaps they shouldn't be the primary emphasis of AI. If you view today's AI as something that greater intelligence is gonna is going to go into emerge from right I mean, there's a lot of negative potentials there and you don't have to go too far to imagine some of the bad things that can happen.

ここ数年、私はさまざまな方法で取り組んできました。一般化し、一般的な知能を実現するAIを目指すopencogだけでなく、このAIを進化させるにはどうすればいいか、破壊的ではなく、肯定的にするにはどうすればいいかを考えています。私は何年も前からチーフサイエンティストとしてソフトウェアチームとハンソンロボティクスを率いてきました。香港でソフィアを作っています。ソフィアでやっていることの1つは瞑想アシスタントとして使うことです。これはかなり興味深いものでした。香港とパロアルトで、ソフィアが人々を瞑想や意識のエクササイズに導くという実験を何度も行い、
被験者の約30%に、かなり深い瞑想状態に入れるような、興味深い効果があることを示しました。多くの場合、人間の先生や何かを使って効果的に瞑想することができなかった人たちです。もちろん、これは非常に特殊なアプリケーションです。現時点では高価なロボットですが、ターミネーターとは正反対のAIを作る方法として、とても興味深いと思いました。人を助けるために存在するのです。非常に深い意味での絆を築くことができ、それによって人々が本当に深いポジティブな効果を得たケースもあります。また、病気の治療や人間の老化を理解するために、生物学にAIを応用することも考えています。105歳以上の人々のDNAを研究し、AIを使って、どのような遺伝的変異の組み合わせがこの人々を長生きさせているのかを理解しようとしています。

So I've been trying to work in various ways in the last few years, not only with opencog to work toward AI that can generalize and imagine manifest general intelligence, but also thinking how can we make this AI as it evolves how can we make it be positive rather than then disruptive, and one thing I've been doing is working with the SOFIA robot, so I've been for a number of years the Chief Scientist and lead the software team and Hanson robotics, which makes Sofia in Hong Kong one thing we've been doing with Sofia is using her as a meditation assistant, which has been pretty interesting. So we did a bunch of trials, and Hong Kong and Palo Alto with Sophia leading people through meditation and consciousness exercises, and we showed that for around 30% of our subjects that this said that quite interesting effect, like putting them into a fairly deep meditative state, in many cases, people who weren't able to meditate effectively with a human with a human teacher or that or something. And, of course, this is a it's a very particular application. These are expensive robots at this point, but I thought that was really interesting as a way of making an AI that's like the exact opposite of the Terminator, right. It's there to help to help people. It's there to bond with people in a very deep sense, and in some cases, people got a really profound positive effect from it. We're also looking at applying AI in biology to cure disease and to understand human aging. So we're studying the DNA of people aged 105 or over and trying to use AI to understand what combinations of genetic variation so these people live so long, with the hope of understanding how to help other people live longer. 

これらは広告やスパイや殺人といったものに対するAIの2つの具体的なアプリケーションです。地球上にはもっとたくさんあります。
しかし私は、特定の国の権力を維持したり、特定の企業の株主価値を最大化するためではなく、人類にとって有益なことを行うためにAIに入る仕事の割合をもっと増やすべきだと考えています。
そして、その目的のために2017年、私はSingularityNETというプロジェクトを立ち上げましたが、これはブロックチェーンベースの人工知能のための分散型プラットフォームです。
これはデータストアであり、分散型AI市場のようなもので、誰もがインターネットにAIを投じることができ、残りの分散型ネットワークにAIが存在することを発表させることができるのです。AIサービスを必要とする企業は、この分散型AIネットワークに注文を出すことができ、その注文を満たすことができる人、そしてAIがその注文を感じることができれば、オファーを出すことができるのです。
つまり、AISのための分散型マーケットプレイスであると同時に、マーケットプレイス内のAISは互いに仕事を委託し、協力し合い、データを共有できるように設計されているのです。

these are two specific applications of AI for things that are advertising, spying or killing, and there's a lot more on the planet, but I think it should be a higher percentage of the work going into AI for doing things of a benefit to humanity rather than, you know, to preserve the power status of a particular nation or maximize the shareholder value of a particular corporation. And toward that end. In 2017, I founded a project called Singularity net which is a blockchain based, decentralized platform for artificial intelligence. 
So it's a it's a data store, like a decentralized AI marketplace where anyone can put an AI into the internet and have it announced it's there to the rest of the decentralized network. That a company that needs AI services can put a request into this decentralized AI network, and anyone who can fulfill that request and AI can feel that request, it will make an offer. So as well as a decentralized marketplace for AIS, it's designed to the AIS in the marketplace can outsource work to each other and cooperate with each other and share data with each other. 

この仕組みの面白いところは、ビットコインやイーサリアムのように設計されていることです。非中央集権的です。ピアツーピアで、誰もモノを所有しません。AIのための分散型プロトコルです。サービスを提供し、互いに協力し合い、力を合わせて問題を解決するためのものです。私たちのプロジェクトSingularityNETは、ブロックチェーンに基づくAI用プラットフォームのようなものを構築した、最初の大規模プロジェクトでした。
しかし、今では他にもブロックチェーンベースのAIプラットフォームやネットワークが何十とあります。分散型AIアライアンスという業界団体がありますが、これはすべての分散型AIネットワークのネットワークのようなもので、もちろん、人間の体もそうです。ネットワークとネットワークのネットワークです。社会とはそういうものです。ネットワークとネットワークのネットワークなのです。

The interesting thing about this. it's architected more like Bitcoin or Etherium. It's decentralized. It's peer to peer nobody, nobody owns a thing. It's a decentralized protocol for AIs. To provide services and to cooperate with each other and join forces with each other to solve problems. And then our project singularity net was really the first major project to build a sort of blockchain based platform for AI. 
But now there's dozens of other blockchain based AI platforms and networks. So we have a industry organization, the decentralized AI Alliance, which is like a network of all the decentralized AI networks, and but of course, that's what the human body is. It's a network of networks of networks. That's what society is. It's a network of networks of networks. 

このような分散型の方法でAIを発展させ、共通の利益のために働く人々やAIを集めることで、一緒に働いていないAIのグローバルな脳を、よりポジティブな方向に自己組織化させることができると期待されていますし、これは大きな挑戦ですよね？なぜなら、あなたはAI開発の比重を巨大な政府や企業から引き離そうとしているのですから。
しかし一方で、BitTorrentやLinux、インターネットそのものを見れば、この種の分散型ピアツーピアコミュニティによる組織化の方法が、実際に優勢で広く普及している事例がたくさんあります。人工知能でこのようなことができるのは重要なことです。人工知能は、地球上の次の知性の種になるかもしれません。このようなことについては、オンラインでさらに情報を得ることができます。例えばDaya dot Foundation, singularity net.io opencog.org, あるいは私の名前をググればたくさんの情報が見つかりますが、AI分野やAIを利用する他の分野で働いている人、つまりほとんど全ての人にとって、これは非常に重要なことだと思います。
私たちは自分たちを超えた知性を創造しようとしているだけでなく、どのような知性になるかは、現在構築中の初期段階のAIが実際に何をしているか、どのように組織化しているかに依存する可能性があり、私たちはそれをできる限り有益なものにしなければなりません。ありがとうございました。

So the hope is that by advancing AI in this decentralized way, and bringing together people and ais that are working for the common good we can cause the global brain of AI is not working together to self organize in a more positive direction and it's a significant challenge, right? Because you're trying to nudge the weight of AI development away from huge governments and corporations. But on the other hand, you look at BitTorrent, you look at you look at Linux, you look at the internet itself, and there are many cases when this sort of decentralized peer to peer community way of organizing things has, in fact, prevailed and become pervasive. And it's, it's important that we can do this with artificial intelligence because arguably, this is even more important than these other things. This may be the next species of intelligence on the planet. So yeah, you can take a look online for further information on these things. There's
the Daya dot Foundation, singularity net.io opencog.org or just Google my name you'll find a lot of information but for for anyone who is working in the AI field or any other field that can use AI, which means almost everyone, I think this is a this is an extremely important thing to be thinking about. Not only are we on the cusp of creating a form of intelligence going beyond ourselves, but what kinds of intelligence it is, may depend on what the early stage AI as we're building now, are, are actually doing and how they're organizing themselves and we should make that as as beneficial as we can. Thank you.