Если наши инструменты усиливают наши намерения, нам нужно подвергнуть сомнению нашу мотивацию к разработке роботов, которые автоматизируют благословения, слушание исповеди или пение на похоронах.
Одно из обвинений Сократа заключалось в том, что его аргументы были похожи на роботов. Когда греческий философ приближался к собственному суду, Евтифрон сказал Сократу: «Ты подобен Дедалу». Он имел в виду, что точно так же, как Дедал в греческом мифе создавал автоматы, которые двигались самостоятельно, аргументы Сократа были настолько убедительны, что его идеи, казалось, двигались сами по себе. Еще 2500 лет назад автоматы вызывали восхищение и страх.
Недавно я размышлял о том, может ли машина иметь мистический опыт. Если мы не будем осторожны, заявление о божественном вдохновении может сделать слова мистика влиятельными. Когда кто-то, будь то человек или машина, заявляет, что заглянул за завесу, мы не знаем, действительно ли пророк или мистик увидел божественное. Мы знаем только то, что они утверждают, и нам решать, доверять ли им.
Deus ex machina
Мой интерес к связи между религией и роботами связан с обвинением против Сократа, и это скорее прагматический, чем технический интерес. Важно не то, изобрели ли мы настоящий искусственный интеллект, а то, верим ли мы, что изобрели его. Если мы доверяем машине, мы можем позволить ей действовать как мистик или священник, даже если это не так.
Возникает интересный вопрос: что делать, когда кто-то делает машину, которая на самом деле предназначена для роли духовенства. Некоторые пасторы шутят, что они помогают людям вынашивать, сопоставлять и отправлять, отмечая рождение ребенка, свадьбы и похороны. Они шутят, но даже если мы не религиозны, мы склонны доверять профессионалам, которые проведут нас через эти серьезные моменты. Несколько лет назад Марк Цукерберг предположил, что Facebook может сыграть аналогичную роль, наполняя жизнь смыслом, как пастор церкви. Учитывая то доверие, которое мы оказываем духовенству, и учитывая множество примеров ненадежности Facebook, предложение Цукерберга вызывает тревогу. Что влечет за собой это доверие?
Возможно, мы намерены дистанцироваться от тяжелой работы по уходу. Наши машины могут предлагать один вид заботы, являясь физическим выражением нашего отсутствия интереса к тем, кто в ней нуждается.
Это важный вопрос, потому что нам дают все больше и больше возможностей доверять машинам выполнять роли духовенства. Компания SoftBank Robotics создала робота Пеппера для пения на буддийских похоронах в Японии, а церковь в Германии запрограммировала машину для произнесения традиционных благословений. Совсем недавно в Дубае правительственное агентство по вопросам культуры и ислама IACAD запустило первую в мире Virtual Ifta, в которой используется искусственный интеллект. издавать фетвы. Другие группы экспериментировали с машинами, которые могут слышать исповедь, возносить молитвы и даже приносить таинства.
Безгрешные машины?
Религиозным сообществам нужно будет решить, принимают ли они машины, выполняющие эти функции в рамках своих традиций, но есть более серьезная проблема, которая затрагивает всех нас: эти машины - инструменты, которые мы создали, и в разной степени они уже «заставляют аргументы перемещаться». Если они убеждают нас голосами, которые звучат божественно, мы должны винить только себя.
Урсула Ле Гуин однажды написала, что «машина безупречнее, даже безгрешнее любого животного. У него нет никаких намерений, кроме наших собственных ». Функция машин является результатом их дизайна, даже если дизайнеры не предполагали эту функцию. Как писал Чарльз Сандерс Пирс, даже если мы в конечном итоге создадим машины, которые смогут «пробираться через лабиринты» сложного мышления, «машина будет совершенно лишена изначальной инициативы и будет делать только те особые вещи, которые она рассчитывала. делать."
Возможно, когда-нибудь Пирс окажется неправым, и у нас появятся машины, которые действуют оригинально и творчески. Но в целом мы хотим, чтобы машины делали то, что мы им приказываем. Нам может понадобиться машина для написания оригинальной музыки, но нам не нужно слишком много творчества; нам нужна машина, которая определяет, что людям уже нравится, и пишет песни, которые будут продаваться. Только изворотливые ученые, вероятно, будут платить за машину, которая писала песни, которые машины хотели слышать. Пирс добавляет с некоторой иронией: «Нам нужна оригинальная машина не больше, чем строителю нужен оригинальный подмастерье или американский совет попечителей колледжа нанял бы оригинального профессора».
Так что, возможно, нам не нужна по-настоящему мистическая машина, но, возможно, мы могли бы использовать машины, которые делают лучшее, что духовенство делает для нас. Машина, похожая на человека, могла болтать всю ночь с одиноким человеком и могла бы стать очень хорошим советчиком. Он может предложить утешительные слова у постели человека, страдающего деменцией или нуждающегося в слуховом ухе. Он мог читать рассказы или петь песни. Почему бы не автоматизировать пение гимнов, чтение Священных Писаний, пение молитв и произнесение благословений? Все это желательно, по крайней мере, для некоторых людей.
Какие риски связаны с преимуществами машин по уходу? Как указывают Евтифрон и Сократ, автоматизированные идеи и религиозный авторитет могут быть очень убедительными.
Но есть ли виды работы, такие как забота о наших сообществах и о нашем собственном теле, которые мы не должны автоматизировать? Инструменты усиливают наши усилия. Они также усиливают наши намерения, и, возможно, наше намерение состоит в том, чтобы дистанцироваться от тяжелой работы по уходу. Наши машины могут предлагать один вид заботы, являясь физическим выражением нашего отсутствия интереса к тем, кто в ней нуждается.
Еще один вопрос: какие риски связаны с преимуществами машин для ухода за больными? Как указывают Евтифрон и Сократ, автоматизированные идеи и религиозный авторитет могут быть очень убедительными. Автоматы, которые говорят и действуют с религиозной властью, могут быть вдвойне убедительными. Мы беспокоимся о влиянии коррумпированного человеческого духовенства; какое политическое, этическое и экономическое влияние может иметь автоматизированное духовенство?
И вот третий вопрос: машина может повторять за нас ритуальные слова «вылупить, сопоставить и отправить», но может ли она поделиться нашим опытом в качестве чуткого компаньона? А если нет, то умаляет ли это значение ритуала?
Что у него в карманах?
В книге Джонатана Свифта Путешествие Гулливера лилипуты пытаются понять Гулливера, заглядывая в его карманы. Они никогда раньше не видели карманных часов, поэтому наблюдают, как он ими пользуется. Они решают, что это должен быть «бог, которому он поклоняется, потому что он редко делал что-либо, не посоветовавшись с ним». Он назвал это своим оракулом и сказал, что оно указывает время для каждого действия в его жизни ».
Карманные часы были новой технологией во времена Свифта. Поначалу карманные часы помогали нам успевать. Постепенно мы перешли от измерения своей жизни в часах к измерению ее в секундах. Технология, которую мы изобрели, чтобы помочь нам наблюдать время, в конечном итоге изменила наш взгляд на свою жизнь. Здесь есть урок.
Верим мы в богов или нет, наши технологии могут начать действовать как боги или как жрецы, которые говорят нам, как себя вести. Даже если мы не собираемся этого делать, наши машины могут стать нашими оракулами, а там, где есть оракулы, есть люди, готовые получать прибыль от этих оракулов.
Открыт ящик Пандоры в Facebook. Я не знаю, могут ли роботы быть священниками, но некоторые начинают действовать как священники. Это требует внимания с нашей стороны, и я не думаю, что разумно ожидать, что машина позаботится о нас.
