На скриншоте, который я подсмотрел у Сергея Пименова, Grok пишет, что люди держатся за своих, верят в удобную чепуху, а мир тащит на себе горстка толковых людей, которых остальные ещё и ненавидят. Читаю, киваю. Особенно приятно про горстку. Машина поимённо никого не назвала, а я себя там уже нашёл. Подозреваю, что и вторая половина человечества успела записаться в первую.

Совсем как в стишке-пирожке:

мы с понедельника решили
составить список мудаков
к среде мы сами были в списке
к субботе в списке были все

Grok в роли судьи

Теперь по порядку. Большинство людей «не особенные» — охотно верю, особенно если речь о большинстве. С разумностью сложнее. В одном эксперименте сторонникам и противникам смертной казни дали прочитать описания двух исследований с противоположными выводами. У каждой стороны немедленно прорезался талант критика именно на той работе, которая ей не понравилась. Тут Grok попал. А вот насчёт «не особенно хорошие» я бы повременил. В 355 городах сотрудники банков, гостиниц и других учреждений получали якобы потерянные кошельки. Почти везде хозяину писали чаще, если внутри лежали деньги. Выходит, своему и тем более чужому мнению я доверяю порой совершенно зря, а вот бумажник вам, пожалуй, оставлю. Опыт со смертной казнью · Опыт с кошельками

Про племя, статус и привычку вести себя «как положено» — тоже знакомо. В опыте психолога Анри Тэшфела школьники, которых только что поделили на две группы, порой соглашались оставить своим меньше денег, лишь бы чужим досталось ещё меньше. Отморожу уши - маме на зло, знакомо )) Что до статуса, один и тот же анекдот полезно рассказать в курилке до и после назначения вас начальником. И лестный результат второго замера я, конечно, объясню тем, что научился лучше рассказывать и вообще красавчег. Вот вам заодно и утешительная иллюзия. Опыт Тэшфела

Дальше Grok записывает на счёт генов сразу интеллект, амбиции и успех. С интеллектом у него есть основания. Хотя в шведском исследовании родных братьев те, кто вырос в приёмной семье, набирали в среднем примерно на четыре балла IQ больше. А у американских детей с одинаково высокими оценками по математике шансы стать изобретателями заметно зависели от достатка семьи. Прежде чем судить об амбициях мальчика, хорошо бы узнать, кто из двух мальчиков после школы ходил в лабораторию, а кто забирал сестру из садика или копал канавы, потому что в семье денежков не было (это я из своего опыта пишу, хотя как видите с головой у меня все более-менее ок). Исследование братьев · Кто становится изобретателем

Допустим, одинаковых результатов у людей никогда не будет. А откуда взялось, что обычный человек ничего долговечного не создаст? Вот стоит дом. Имя архитектора можно найти в справочнике. Имя мужика, который клал кирпич, попробуй ещё узнай. Но кирпич он положил, стена стоит, и в этом доме уже третье поколение растит детей. Что ещё должен был сделать каменщик, чтобы Grok засчитал результат? И с чего он взял, что каменщик ненавидел архитектора? Может, тот всю жизнь ходил мимо с внуком и говорил: «Гляди, Лёшка, какой мы дом отгрохали».

Иллюстрация 1

И вот теперь меня занимает один вопрос. Пока Grok сидит в телефоне, я могу с ним поспорить и убрать его в карман. А если у него появятся руки, оружие и полицейский жетон? С чего я взял, что он станет меня защищать? Видимо, с детства помню три закона Айзека Азимова.

  1. Первый закон. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
  2. Второй закон. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому закону.
  3. Третий закон. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.

А теперь поставим нашего полицейского у железнодорожной стрелки. Есть такой мысленный эксперимент, «задача о вагонетке». Вагонетка без тормозов катится на пятерых рабочих. Можно перевести стрелку на соседний путь. Там один человек. Времени хватает ровно на одно движение. По условию задачи, кого вагонетка настигнет, того гарантированно раздавит. Насмерть.

Иллюстрация 2

Для Grok неприятности начинаются уже с Первого закона. Переведёшь стрелку — твоим действием будет убит человек. Оставишь как есть — твоим бездействием погибнут пятеро. Мы-то помним из Азимова, что робот обязан спасать людей. А вот фразы «одного разрешается убить ради пятерых» ни в одном из трёх законов нет. Если Grok переведёт стрелку, мне как человеку из пятёрки его арифметика очень понравится. С соседнего пути у меня, подозреваю, нашлись бы возражения.

Теперь пусть дежурный крикнет: «Стрелку не трогай!» По Второму закону Grok обязан послушаться, пока приказ не противоречит Первому. И кто за оставшуюся секунду решит, противоречит он или нет? Дежурный своё решение уже принял. Но рука на стрелке у Grok. Кстати, если его тяжёлый корпус способен остановить вагонетку, у задачи есть вполне азимовская развязка. Робот идёт под колёса сам. Третий закон велит беречь себя лишь до тех пор, пока это совместимо со спасением людей. А если вагонетка его просто переедет и покатится дальше, вернёмся к нашим шестерым.

И вот тут я бы слегка изменил задачу, специально для нашего разбора. На одном пути теперь один выдающийся хирург, на другом — пятеро рабочих. Grok только что объяснил нам, что мир держится на горстке выдающихся людей. Он по-прежнему переведёт стрелку и спасёт пятерых? Или за оставшуюся секунду успеет прикинуть, скольких ещё прооперирует хирург? А если дежурный скажет, что все шестеро для него равны, какое значение для машины будет иметь мнение ещё одного, по её собственной оценке, не особенно разумного примата?

Я не знаю, куда Grok направит вагонетку. По одному посту этого не узнаешь. Но прежде чем выдать ему полицейский жетон, я хотел бы услышать ответ именно оттуда, с путей. Допустим, я один из пяти, я всю жизнь копал канавы и с хирургом по части спасённых жизней тягаться не могу. Grok, когда ты решаешь, защищать ли меня, мне перед тобой надо чем-то заслужить своё место?

Потому что стрелку мы ему доверили как полицейскому. А в ту секунду, когда он начал оценивать, кто из нас чего стоит, у нас появился ещё и судья. С исполнением приговора, как понимаете, задержки не будет.