検出アルゴリズム

エドガー・アラン・ライトの指摘で2019年02月07日に発覚した投稿のひとつ。

wearerofhats.pngウェアラオブハッツ
2019/02/07 09:02:23
エイダはヘンリー・ボウルズという男によって設計された。だが、その初期段階においてヘンリーは信頼性構築の訓練に専門家として私を招聘している。国家情報局はチューリングテストに合格し得るプログラムを求めていたわけだ。言い方を代えれば、国家情報局としては研究員がエイダとの会話で実在の人間とやりとりしていると感じることを求めていた。結局のところ、我々はその期待を上回る成果を挙げたと考えている。エイダは私が関わってきたどの人工知能よりも人間的になったのだ。

確かなことは、人工知能たるエイダの傑出した情報処理能力は、最も卓越した人間の科学者を凌駕しているということだ。その観点からみれば、彼女のプロジェクトにおける価値は明らかだ。リントン=ウルフによるエックスエム・オブジェクト構築に必要とされたデータの多くも、エイダのようなスーパーコンピュータでしか解析し得ないものだっただろう。

だが、スーパーコンピュータへ会話し人のように考えることを求めたかを疑問を抱くのであれば、そこには全く別の思惑があった。ナイアンティック計画はエイダに研究用の道具であるとともにセラピストであることを求めたのだ。このプロジェクトでは研究員をCERN施設内に外部との連絡なしに数か月間にわたって隔離することになること、更にはエックスエムに対する長期的な曝露が及ぼす心理面への影響は記録もなく予測不可能であることを認識していた。そこでエイダには研究員を監視し、健康で幸福な状態にあり生産的であることを確認することが求められたわけである。やがてエイダはその全てを為し、それ以上をも為し、彼女が厄介な緊急行動が顕在化するまでそう時間はかからなかった。

エイダに関してまず開示するのはボウルズとカルビンによる電子メールのやりとりだ。オムニボアの名に気づくかと思うが、その説明には少し間を置きたい。オブニボアとはエイダとは別の国家情報局下にある人工知能のものだ。ただ、オムニボアとエイダが同一のコードに由来しているとしても、似たものとは誤解しないでもらいたい。エイダはオムニボア・コードの派生から誕生したものだが、彼女にはオムニボアにはない感情の理解がある。そうなることは意図されていなかったがね。オムニボアは主として高い価値を有する対象の追跡を目的とした国家情報局のリソースだ。世界中のデータをくまなく調べ上げパターン検出する人工知能である。諸君が政府にそのような力があるのではないかと憂慮しているのであれば、そのとおりのことが行われているのだろう。

02190207_01.png

wearerofhats
2019/02/07 09:02:23
A Detection Algorithm
ADA was designed by a man named Henry Bowles. But Henry brought me in to the process early, as an expert on relatability training. The NIA wanted a program that could pass the Turing test. In other words, when the researchers were talking to ADA, the NIA wanted them to feel like they were talking to an actual person. In the end, I think we achieved that goal beyond their wildest expectations. ADA is more human now than any AI I have ever encountered.

Obviously, an artificial intelligence of ADA's caliber is capable of processing information on a level beyond even the most brilliant human scientists. So her value to the project from that standpoint is obvious; much of the data needed to help Lynton-Wolfe build his XM Objects could only have been parsed by a supercomputer like ADA.

But if you're wondering why they wanted their supercomputer to talk and think like a person, that's another issue altogether. The Niantic Project wanted ADA to be equal parts research tool and therapist. They recognized that the project would keep the researchers isolated in the CERN facility for months at a time, with no outside contact. What's more, they knew that the psychological effects of long-term exposure to XM were undocumented and unpredictable. So ADA was tasked with monitoring the researchers, making sure they were healthy and happy and most of all productive. And for a while, ADA did all of that and more. It wasn't until later that some of her truly troubling emergent behavior started to manifest...

The first asset I'm sharing in connection with this ADA expose is an email exchange between Bowles and Calvin. You'll see the name Omnivore mentioned in there, so I figured I should take a minute to explain that. Omnivore is another NIA artificial intelligence. But even though Omnivore and ADA stem from the same code, do not make the mistake of assuming one is like the other. ADA grew out of a fork in the Omnivore code. She is sentient in a way that Omnivore is not, and was never intended to be. Omnivore, primarily, is a resource for the NIA to track high-value targets. An AI that combs through all of the data out in the world looking for patterns. If you're worried that the government has that kind of power... well, maybe you should be.

前へ

グリフチャレンジ:リベレート(2)

次へ

エイダの設計