За последнее десятилетие или около того возникли споры о взаимосвязи между цифровыми технологиями и нашим мышлением. В результате наших кодированных соплеменников по всей сети распространились опасения по поводу снижающихся способностей человеческого мозга по отношению к искусственному интеллекту. В этом так называемом мире люди против роботов риторика СМИ заставляет нас поверить в то, что роботы побеждают в этом раунде.
Неужели Google « делает нас глупыми?», - спросил Николас Карр у читателей Atlantic в 2008 году. Он утверждал, что изощренный алгоритм поиска возился с его способностями. удерживать мысленную информацию и концентрироваться на литературных текстах в течение продолжительных периодов времени. Его мозгу больше не нужно было запоминать факты, поскольку Google делал это за него.
С тех пор о подобных тревогах писали такие журналисты, как Эндрю Салливан и Пол Льюис. В то время как Салливан предупреждал читателей, что они льстят себе, считая, что у них есть любой контроль над тем, какие искушения они нажимают », Льюис утверждал, что наши умы могут быть захвачены самими технологиями. Он пишет,
«Растет обеспокоенность тем, что технологии не только вызывают зависимость у пользователей, но и способствуют так называемому« непрерывному частичному вниманию », серьезно ограничивая способность людей сосредотачиваться и, возможно, понижая IQ». Одно недавнее исследование показало, что простое присутствие смартфона вредит когнитивным способностям - даже когда устройство выключено.
Это сложные проблемы, и я не оспариваю их полностью - конечно, технологии влияют на то, как мы думаем и ведем себя. Есть разница между письмом ручкой и бумагой и вводом текста на клавиатуре компьютера. Или между тем, что происходит, когда мы ищем информацию в печатной энциклопедии, и когда мы пользуемся поисковой системой.
Проблема, к которой я здесь обращаюсь, заключается в том, что каждый из этих журналистов заявляет, что именно технологии сами заставляют нас действовать определенным образом. Смартфоны снижают когнитивную активность. Google делает нас глупыми. А у нас, людей, нет контроля.
Это вопрос, который необходимо распутать. Ведь если у нас нет контроля над нашими действиями - куда, собственно, мы идем отсюда (кроме медленного, но верного пути к полному нигилизму)?
Хотя нельзя недооценивать явную силу захватывающих алгоритмов Кремниевой долины, есть огромная опасность в утверждении, что наше сосуществование с цифровыми технологиями полностью лишает нас возможности оказывать влияние на окружающую среду, не говоря уже о даже думать. Насколько мне известно, для создания этих устройств определенно требуются люди. В той же мере, в какой для этого требуется, чтобы люди говорили другим людям, что эти устройства делают нас бесполезными. Люди, занимающие определенные должности во власти, с особыми политическими интересами.
Меня одновременно вдохновила и глубоко встревожила презентация замечательной Долли Сен на конференции Messy Edge на Брайтонском цифровом фестивале в октябре. В своем поучительном выступлении она обратила наше внимание на крайне дискриминационную политику, заключенную в поисковом алгоритме Google (показанном ниже). Google Autocomplete предлагает ряд предложений для пользователя после ввода слов шизофреники должны: среди них шизофреников следует запереть, если шизофреников заставят принимать лекарства и следует усыпить шизофреников.
Эти поисковые предложения предоставляются с помощью автоматического алгоритма, который в основном основан на нескольких факторах. Один - это количество раз, когда другие пользователи Google выполняли аналогичные поисковые запросы, а другой - прогнозы, которые считаются наиболее актуальными для вас на основе ваших собственных пользовательских данных (это ваш язык, регион, история просмотров и все остальные скопления личной информации, проданной Google из различных щелей Интернета). Однако Google подвергает цензуре некоторые предложения автозаполнения в соответствии с несколькими автоматизированными правилами, включая определение того, был ли связан потенциально уничижительный или деликатный термин. Неизвестно, кто или что решает, что это за автоматизированные правила, но Google утверждает, что человеческое участие не является частью этого процесса.
Тем не менее - конечно, есть. Кто пишет эти алгоритмы? Кто сообщает о том, что считается неуместным? И кто тогда решает, какие поисковые запросы запрещены? В то время как алгоритм, несомненно, будет способствовать всему процессу, «участие человека», безусловно, является одним из факторов механизма, который считает, что «шизофреников следует запереть» - подходящее предложение для поиска.
Можно легко найти и другие примеры взаимодействия дискриминационной политики и высоких технологий. В недавней статье в The Guardian сообщалось о разработке алгоритма распознавания лиц, который был разработан, чтобы определять, гей вы или прямо по фотографии. Этот отчет был составлен на основе данных по распознаванию лиц, из которых исключены цветные, транссексуалы и бисексуалы. Итак, по сути - если вы не принадлежите к категории белых гетеросексуалов или геев, вы не существуете для этого конкретного алгоритма.
Это лишь один из многих примеров, когда расистские предубеждения заложены в самом кодировании. Мыслители и писатели, такие как Рамон Амаро и Джой Буоламвини, также обратили внимание на дискриминационную политику, встроенную в алгоритмы распознавания лиц - после проведения некоторых экспериментов в MIT Media Lab Буоламвини обнаружила, что ее лицо лучше распознавалось по лицу. ПО для распознавания временами когда она была в белой маске.
Резкое недопредставление небелых и немужних сотрудников в Кремниевой долине определенно не является секретом. Заявление о том, что люди больше не являются частью этих процессов или что люди больше не обладают достаточным интеллектом, чтобы оказывать влияние на эти процессы, разрушительно и совершенно неверно. Такие заявления делают невидимыми только определенные формы власти.
Нам не нужно проецировать неравенство сегодняшнего дня на неравенство завтрашнего дня, но в то время как отдельные подгруппы людей представляют собой инженерные устройства, которые оказывают постоянно растущее влияние на то, как мы думаем, ведем себя и работаем, эта динамика не остановится. . Эти системы слишком сложны, чтобы выбрать победителя в так называемой битве «люди против роботов». Но «технологии» не лишают нас возможности оказывать влияние. Это сила говорит нам об обратном: технология - это усилитель.
