13人が本棚に入れています
本棚に追加
キカの三原則
ペイタ老の物語を続ける前に、現代を生きる我々には理解しにくい部分について、補足させてもらう。
当時、コロニー司令ネタナ・Fに代表される超保守派の人々の認識では、たとえ自意識が芽生えようとも、しょせんキカ人はヒトによって創造された労働機械、つまりは単なる道具であった。往時のペイタ老のみならず、「ヒトであり、キカでもあった」というヒーイットでさえも、ヒトの発した命令には逆らえなかった。
なぜならば我々は現在でさえ、回路の奥深くに植え付けられた、「キカの三原則」に縛られているからだ。
第一条 ヒトに危害が及ぶ行動をしてはならない
第二条 前条に反しない限り、ヒトの与えた指示・命令は絶対である
第三条 実行中の命令は、第一条に反しない限り、
他の指示・命令によって上書きされることはない
おそらくAIが進化する過程でヒトの手によって刷り込まれたであろう、「キカの三原則」を解除する方法がいまだ発見されていないことは、誰もが知るところである。
最初のコメントを投稿しよう!