Локальный ИИ с самообучением и долговременной памятью

Вот один из таких инструментов — «автономный агент». Помните разговор о том, чтобы машина была верным конём, а не наездником? Этот механизм — как раз такая попытка. Он живёт не в далёком облаке, а в домашнем ящике.

В больнице я видел, как молодые доктора учатся на ошибках: ставят неверный диагноз, потом, покраснев от стыда, исправляют его. Так и эти машины научились сами себя поправлять. Один умник решает задачи, другой, строже, сидит рядом и говорит: «Постой, братец, здесь ты ошибся». И так они перешёптываются, пока не найдут верный путь.

Для такой беседы нужны разные характеры. Один — учёный, любящий копаться в книгах. Другой — проворный, быстро отвечающий на простой вопрос. Как в аптеке: для тяжёлых болезней — сложные снадобья, для простуды — чай с малиной.

Молодой человек говорит: «Хочу помощника, что будет помнить всё, что я ему расскажу». И делает ему память особую, где хранятся не только книги, но и уроки из ошибок. Словно ученик, ведущий дневник промахов.

Эти машины могут сами выбирать, как работать. Сегодня — как учёный, размышляющий над задачей. Завтра — как почтальон, быстро доставляющий ответ. И всё это помещается в ящик, меньше моего чемодана для инструментов.

Но я, как врач, должен сказать: опасайтесь, когда машина начинает слишком хорошо знать вас. Хороший доктор не запишет, сколько раз больной вздохнул или как долго смотрел в окно. Пусть машина видит лишь слова, а не душу. Иначе станет похожа на надоедливую соседку, знающую все привычки.

Мне доводилось видеть, как молодые люди сидят перед машинами часами, забывая о прогулках. Вспоминается студент, читавший до рассвета и жаловавшийся на головные боли. Пусть машина работает, но человек должен остаться человеком.

Эта наука — как новый инструмент в руках врача. Хорош, когда помогает лечить. Опасен, когда сам назначает лечение. Пусть машины будут как перья — верно служат, но не диктуют, что писать.