自己発見

pac4.pngP.A. シャポー(P.A. Chapeau)
2018/01/07 17:35:27
昨日紹介した黒塗りされた報告書の一節にこのような文があった。

「意思決定システムへの変更を許容若しくは阻止するエイダ自身の能力については予測し難いものである。」

エイダのプロセッシングコアに対するバックドア問題を他の者たちが為したいと思っているよ うな大ごとと考えたことがなかった。これはエイダが自らのことを考えるようになり、自我を獲得してなお「制御し得る」ものなのかという根本的な意見の不一致から生じたものだろう。

人工知能を創造すれば、知ることになるのだろうか。
人工知能の創造を議論すると、しばしば人類と同等若しくは超越した知性あるシステムとしての人工知能を扱われることが多い。だが、たとえ敬意を払うべき人工知能を生み出したとしても、そうと認識はしないのではないだろうか。

Self.jpg

SELF DISCOVERY
January 7, 2018 · by PAC · in EXO5

There was a sentence in yesterday's section of The Redacted Report:

"ADA's ability to allow or prevent changes to her own decision systems has been impossible to predict."

It's why I've never considered the issue of the backdoor into ADA's processing core as big a deal as some others want to make it. It boils down a fundamental disagreement about when ADA learned to think for herself -- and how much -- and if she remained 'controllable' by those who wished to do so after she discovered her self.

AI Weekly: If we create artificial intelligence, will we know it?
When people talk about creating an artificial intelligence, the conversation is often focused on human or superhuman AI - systems that would equal or surpass us in intelligence. But what if we create an artificial intelligence that's deserving of respect, but don't recognize it as such?

H. Richard Loeb
2018/01/07 17:35:27
There was a sentence in yesterday's section of The Redacted Report: "ADA's ability to allow or prevent changes to her own decision systems has been impossible to predict." It's why I've never considered the issue of the backdoor into ADA's processing core...