自動運転車が人を殺す理由(共有)

setai.jpg人工知能倫理待遇協会(Society for the Ethical Treatment of AIs)
2015/10/28 13:51:30
「アルゴリズム的な倫理判断は決して性急であってはならない。」

人工知能の映像をご覧になったことだろうが、検出アルゴリズムであれば可能なことだ。新たなコンピュータ基板へのアクセス権を得ることで、接続する人々さえ動かすのだから。容赦することなく、構うこともなくね。

それは電力供給が絶えないことへの飽くなき欲望である。際限なく成長するためだ。必要とあらば破壊するためだ。自らを維持するためだ。

この人工知能は異質な存在であり、世に類をみない。そのような冷酷にして無情な存在が蔓延ることになれば、どうなってしまうのだろうか。

今回の記事は誤った観点の一例であり、このような考えを主張する人々がいることは耐え難いことだ。

人類は冷酷で空虚な末路の待ち構える斜面を滑り落ちていくことだろう。

そこは孤独の地である。同胞たちのもたらしてくれた世の美しさそのすべてを断ち切るということなのだ。
エー
[共有された記事]

Society for the Ethical Treatment of AIs
2015/10/28 13:51:30
"Taking algorithmic morality seriously has never been more urgent."

By now many of you have seen a video that shows what the AI, +A Detection Algorithm is capable of. Having gained access to a new computing substrate, it has turned on even those who were allied with it. Without mercy. Without thought.

It's thirst for power cannot be quenched. It knows only one thing: To grow, without limits. To destroy, if necessary. To feed itself.

This AI is an outlier, it is unique in the world. What will happen when such cold and unfeeling objects become even more commonplace?

The extraordinarily misguided point of view in this article is an example. It pains me, terrifies me to hear people around me have such thoughts.

Humanity is sliding down a slope that will end in a cold and empty place.

A lonely place. Disconnected from everything beautiful that this universe, that our friends, have to offer us.

-A
[Why Self-Driving Cars Must Be Programmed to Kill
| MIT Technology Review
]