Для таких случаев существует стандартная процедура, и я буду ей следовать. Я выставлю вторичные условия, приказав роботу игнорировать мой вопрос, если такая мера предосторожности была в него встроена. После этого уже весьма несложно обеспечить ситуацию, в которой машина будет вовлечена в логический парадокс, когда, и отвечая мне, и отказываясь отвечать, она будет вынуждена нарушить данные ей инструкции. В таких случаях все роботы действуют одинаково, стремясь н самозащите.
Они освобождают входные цепи, по которым к ним извне поступают сигналы, и ведут себя так, словно им вообще не задавали никакого вопроса.
0コメント