«Все, что действительно порочно, начинается с невинности». - Эрнест Хемингуэй
Что значит быть человеком?
Microsoft в последнее время была в новостях вокруг своего мятежного и противоречивого чат-бота для девочек-подростков с искусственным интеллектом Tay.
Но у Тая также есть более милая и вежливая китайская сестра по имени Сяобин (小冰). Сяобин является братом более раннего чат-бота 2014 года по имени Xiaoice (произносится как Shao-ice).
В 1950 году британский математик и криптоаналитик Алан Тьюринг представил идею теста, чтобы проверить, может ли машина быть неотличима от человека.
Сейчас дело не в том, сможете ли вы отличить, кто из них — Тай или Сяобин человек, а в том, смогут ли они сохранить свою человечность.
Сяобин принадлежит к третьему поколению, она вежливая, с чувством юмора, но даже может определить, пытаетесь ли вы ее обмануть.
Тем не менее, Тэя дважды выпускали на волю, и оба раза он начинал веселым и оптимистичным, но быстро становился расистом, ненавистником и болтливым.
Почему?
Как китайская версия может быть такой милой, а английская — такой кислой? Это плохое программирование? Нюансы в языке или в наборе символов?
Возможно, ни то, ни другое. Или все, что выше.
Как и у каждого ребенка, воспитание и поведение ребенка определяются его окружением.
Если вы покопаетесь в сети Америки и Европы, это постапокалиптический Безумный Макс с троллингом и ненавистническими высказываниями. Например, посмотрите комментарии под этим двухчасовым YouTube видео забавных клипов с котиками. Видео должно быть развлекательным, но комментарии быстро превращаются в ругательства по поводу жестокого обращения с животными и ненависти комментаторов друг к другу.
В отличие от этого, посмотрите на это видео с милыми котятами на Baidu, и если вы читаете по-китайски или у вас есть онлайн-переводчик, комментарии сосредоточены на самих кошках, на том, что люди чувствуют и какие они милые.
Означает ли это, что никто не сказал ничего плохого или уничижительного о кошках на Baidu? Конечно, нет. Однако большинство комментариев быстро очищаются, удаляются или архивируются.
Большинство жителей Запада считают, что все, что находится за Великим китайским брандмауэром, подвергается цензуре, очищается и приводится в порядок на основе доктрины партии.
Не так.
Иногда вещи убираются, потому что есть нанятые «уборщики», единственная цель которых — убрать негативные комментарии и заявления.
Большинство этих заявлений не имеют никакого отношения к партии. Некоторые просто выставляют людей или организации в негативном свете. У некоторых из этих людей есть бизнес и репутация, которыми они не могут рисковать из-за контекста в социальных сетях пренебрежительного сообщения в блоге, видео или комментария. Таким образом, они платят человеку или группе за подтасовку системы, удаление поста или написание противоположной стороны, чтобы поднять его в поисковой выдаче, чтобы скрыть тот, который выставляет их в плохом свете.
Однако в Америке и Европе у нас также есть Великий брандмауэр или, скорее, Facebookgoogle, который контролирует большую часть контента, который нам разрешено просматривать. Разница в том, что это контролируется не правительством, а доходами от рекламы.
Единственная цель — накрутить просмотры, а не вежливость по отношению друг к другу. Чем более спорная тема — чем больше трафика она привлекает — тем больше увеличивается доход от рекламы в реальном времени.
Например, давайте посмотрим на две недавние истории, одна о Трюдо, канадском премьер-министре, обучающем репортера квантовым вычислениям. Далее идет статья, в которой говорилось о том, что это постановка. Обе статьи стали вирусными. Комментарии и реакция в социальных сетях варьировались от положительных до отрицательных, от откровенно неуважительного отношения к канадскому правительству до нападок на людей, которые оставляли комментарии или делились статьей.
Несмотря ни на что, обе статьи собрали миллионы просмотров и тысячи доходов от рекламы.
Если бы чат-бот Microsoft Tay поглощал все комментарии, как бы она отреагировала, если бы мы спросили ее, было ли мероприятие Трюдо реальным или постановочным?
Как бы ответил Сяобин?
Возможно, Сяобин вообще не ответил бы, поскольку YouTube фильтруется или обычно блокируется в Китае, если только видео не попало на Youku.com.
Таким образом, возникает вопрос вокруг теста Тьюринга — что больше соответствует человеческому ответу? Уважение или унижение.
Алан Тьюринг покончил жизнь самоубийством в возрасте 41 года в своей постели с наполовину съеденным яблоком, предположительно с добавлением цианида. Его подвергали химической кастрации по приказу государства, чтобы излечить его от гомосексуализма.
Другие говорят, что его убили из-за секретов, которые он хранил вокруг Энигмы. Или было все вышеперечисленное.
Отец теста Тьюринга убил то же самое человечество, которое он пытался обнаружить в искусственном интеллекте.
Разве более гуманно ранить чувства людей? Разрушать? Сокрушайте самооценку словами и делами.
Или более человечно заставлять людей смеяться, чувствовать себя принадлежащими, интегрировать их в общество и чувствовать себя любимыми?
Это наш тест, который мы должны пройти.
—
Г.С. Джексон, технолог, исследователь данных и бывший стендап-комик, который пытается упростить часто сложный и запутанный мир больших данных и науки о данных.
