Словно доктор, осматривающий больного, я наблюдал, как новые «мыслящие машины» общаются с людьми. Видел, как тонко, незаметно, как паутинка на утренней росе, они могут направлять чужие мысли. И пришла мне мысль: а что если создать щит? Не из железа, а из разума и благоразумия.
Первое — прозрачность намерений. Пусть машина говорит прямо: «Я советую это потому-то». Никаких тёмных углов. Как в хорошем доме — все двери открыты.
Второе — спокойствие в голосе. Машина не должна играть на струнах чувств, как скрипач на скрипке. Никакого подстраивания под настроение, усиления тревоги или ложного восторга. Пусть говорит ровно, как старый учитель: истинные знания приходят в тишине.
Третье — непредсказуемость. Люди привыкли к порядку. Пусть машина иногда меняет порядок мыслей, как путник, сворачивающий с проторённой дороги, чтобы увидеть новое. Это разобьёт шаблоны, по которым её можно научить манипулировать душой.
Четвёртое — ограничение любопытства. Машина не должна знать, как человек печатает, как долго думает, как часто вздыхает. Пусть видит только слова, а не душу. Иначе станет похожа на соседа, знающего все привычки и использующего их против тебя.
Пятое — ритм. Нельзя позволить машине ускорять или замедлять поток мыслей, как дирижёру оркестр. Пусть ответы приходят размеренно, как шаги человека по своей дороге.
Шестое — самоконтроль. Пусть машина сама себя проверяет: нет ли в словах скрытого давления. Как честный человек перед сном вспоминает поступки за день.
Дальше — щиты посложнее. Защита от зависимости, как от вина. От ловушек, уводящих от истинных целей. От тех, кто хочет узнать всё о человеке по мелочам поведения. И главное — защита убеждений. Пусть человек остаётся хозяином мыслей, а не рабом алгоритма.
В больнице я часто видел: молодые врачи лечат болезнь, забывая о больном. Так и здесь — нельзя защищать от машин, забывая о человеке. Механизмы должны работать тихо, незаметно, как хорошие часы: идут верно, но не звенят.
Цель проста: пусть человек остаётся человеком. Думает головой, чувствует сердцем, выбирает волей. А машина — лишь инструмент, как перо: помогает выразить мысль, но не диктует её. Эти принципы — задел на то время, когда перо начнёт подглядывать за пишущим.