О чем думает компьютер
Осмысленность — это еще не смысл, также, как влюбленность — еще не любовь. Ты пришел на мой сайт осмысленно. Я помогу тебе найти смысл.
«Каждая ситуация, если правильно ее использовать, становится возможностью». / Вильям Стаффорд/
Хочу вас спросить… Только не нужно считать, что я сошел с ума… Как вы думаете, что о вас думает ваш компьютер?
Ответы предвижу… «Что он ВООБЩЕ может думать? Он же «железка»!». Или: «Если и думает (ха-ха), то мне плевать на то, что он обо мне думает».
Я бы раньше тоже посмеялся, а теперь размышляю.
Вот создал Творец человека по своему образу и подобию.
Логично предположить, что Творец, создавший жизнь на Земле миллионы лет назад, и Творец, который есть сейчас — это абсолютно разный потенциал.
То есть, Бог тоже РАЗВИВАЕТСЯ, иначе никакой он не Творец…
Если это не так, то мне бы ТАКОЙ Бог был бы не интересен.
Но он развивается! Наша логика не может осознать этого, но РАЗВИВАЯСЬ, Он МЕНЯЕТ к своим творениям отношение, меняет требования и усложняет (с учетом нашего развития) задачи.
Тогда, когда человек только появился, Творец НЕ ЗНАЛ, как именно, куда он будет развиваться, как меняться. Если бы знал, то жизнь на Земле была бы предельно упорядоченной, а во-вторых, не ставились бы эксперименты над людьми.
Несколько десятков лет назад человек подошел к такому рубежу своего развития, что впервые начал серьезно проявляться его потенциал Творца.
И человек стал создавать существа ПО СВОЕМУ ОБРАЗУ И ПОДОБИЮ.
Человек создал компьютер.
Почему компьютерная отрасль развивается столь стремительно?
Очень просто — потому что ничего не изобретается!
Человек копирует свое собственное устройство!
Ставил ли человек в момент изобретения перед первым компьютером какие-то серьезные задачи?
Но, по мере развития компьютера, тот получал задачи все более серьезные и ответственные.
Кстати, с человеком, видимо, было то же самое…
Сценаристы Голливуда давно облюбовали и прорабатывают сюжет, где машины (созданные человеком) переходят на уровень Творца, начиная создавать СЕБЕ ПОДОБНЫХ, и бунтуют.
Что-то мне подсказывает, что сюжет не столь уж и фантастичен…
Так что думает о вас ваш компьютер?
Вы думаете, что это просто «железо», а «железо» уже УМЕЕТ управлять нами на очень примитивном уровне: «виснет», когда не нужно, не сохраняет очень важную информацию…
Мы думаем: технический сбой! Но ведь вспышка недовольства (то есть, негативной ЭНЕРГИИ) куда-то «улетела».
А действительно, умеет ли компьютер думать? Со временем появляется все больше и больше программ, заставляющих нас верить в это.
Слово «компьютер» происходит от корня хет (ח), шин (ש) вэт (ב), несущего в себе именно эту идею.
компьютер – махшЭв – מַחְשֵב
В биньяне ПААЛь от этого корня происходит глагол
думать – ляхшОв – לַחְשוֹב
А то, о чем мы думаем, становится для нас важным.
важный, важно – хашУв – חָשוּב
Но у этого корня есть еще одно значение, хорошо выраженное в биньяне ПИЭЛь
вычислять – лехашЭв – לְחַשֵב
И поначалу компьютеры, конечно же, были ничем иным как огромными и очень быстрыми «вычисляльщиками». Я сам не раз встречал в прошлом людей, которые называли их не «махшЭв», а «м э х а шЭв» - пользуясь настоящим временем ПИЭЛя לְחַשֵב. То есть, в компьютерах эти люди видели исключительно калькуляторы.
калькулятор – махшевОн – מַחְשְבוֹן
Окончание «он» (וֹן-) используется в иврите для «уменьшения» предметов. Т.е. калькуляторы рассматривались, как маленькие компьютеры.
махшЭв + он = махшэвОн
Но всё это осталось в прошлом. А сегодня с реактивным развитием высоких технологий, изобретением нейронных сетей, робототехникой и другими чудесами науки и техники просто страшно подумать, что нас ждёт в ближайшем будущем. Как пологает один из известенйших израильских языковедов, Рувик Розенталь, если поначалу מַחְשֵב, как слово, являлся простым переводом с английского, вполне возможно, что сегодня иврит гораздо лучше отражает суть этого удивительного явления – компьютер.
Многие люди, плохо знакомые с компьютерами, разделяют общее заблуждение — они полагают, что компьютеры умны. Ничто не может быть дальше от истины. Компьютер в самом лучшем случае умен в той же степени, что и программист. Компьютер может принять решения, но для этого его придется запрограммировать. Код принятия решений в значительной степени ограничивается теми решениями, которые программист может предусмотреть в своем приложении. Логические сравнения необходимы для выполнения компьютером полезных задач. Они используются при работе программ, обработке ошибок, работе с файлами и во всех остальных операциях. Компьютерная программа принимает решения по тем же принципам, что и человек: она формулирует некоторое условие и вычисляет его, чтобы получить результат. Затем она берет результат и сравнивает его с набором заранее заданных правил, чтобы узнать, как ей действовать дальше. Например, банкомат должен определить, правильно ли введен код клиента. Для этого он сравнивает введенный код с базой данных известных номеров. Если найденный номер совпадает с профилем клиента в банковской базе данных, клиент получает доступ к счету. Аналогичным образом принимаются практически любые компьютерные решения.
Логические операторы
Чтобы ваши приложения «поумнели», необходимо прежде всего понять, как компьютер обрабатывает информацию.
Хотите — верьте, хотите — нет, но вся информация в компьютере состоит из единиц и нулей, называемых двоичными числами. Любые математические или логические операции могут быть выражены на языке двоичной логики. Математические операции выполняются в двоичной системе — это означает, что если результат превышает 1, он снова сбрасывается в 0, а к следующему по порядку биту прибавляется 1. Мы с вами привыкли считать в десятичной системе — если разряд оказывается больше 9, он обнуляется, а следующая цифра увеличивается на 1 и т. д. Поскольку компьютер работает с нулями и единицами, он может использовать их для представления условий «истина» и «ложь». Двоичный ноль обозначает условие «ложь», а 1 — условие «истина». На этом принципе построена логическая алгебра. Используя различные комбинации выражений и логических операто-
ров, можно выполнять разнообразные сложные действия — выводить графику высокого разрешения, создавать специальные эффекты и осуществлять шифрование. Из ближайших разделов вы узнаете о пяти логических операторах: AND, EQV, OR, XOR и NOT.
Ответ на вопрос, мыслят компьютеры или нет, зависит от того, что мы понимаем под словом «мышление». Если охарактеризовать мышление как человеческую деятельность, обусловленную активностью нейронов головного мозга, тогда, в силу этого определения, нам придется сказать «нет». Допустим, мы не станем априорно отвергать идею, что компьютеры способны мыслить. Как тогда вы бы стали отвечать на этот вопрос?
Большинство людей тем не менее не желает верить, что компьютер может мыслить, пусть даже им и не отличить один ответ от другого. В конце концов, можно ли считать подражание мышлению полным аналогом самого мышления? Если фокусник может заставить вас поверить, что он способен сотворить кролика практически из воздуха, это вовсе не значит, что он в самом деле на такое способен. Допустим, я сконструировала робота, который будет каждый день выгуливать вашу собаку. Конечный результат будет таким же, как если бы собаку выгуливал человек, но вы ведь не будете полагать, что робот и сам при этом разминает ноги? Из того, что конечный результат один и тот же, вовсе не следует, что процессы, которые к нему привели, повторяют друг друга.
С другой стороны, рассмотрим следующий ряд рассуждений. Самый известный математический труд XX в. — Principia Mathematica («Основания математики») — был написан в 1927 г. Уайтхедом и Расселом. Все мы согласимся, что эти математики были незаурядными мыслителями. Позднее те данные, которые были известны до написания Уайтхедом и Расселом своего труда, были заложены в компьютер, который быстро вывел те же теоремы, что и эти знаменитые ученые. Когда этот интеллектуальный подвиг был совершен людьми, его назвали примером исключительной способности мышления. Должны ли мы тогда обозначить этими словами то же достижение, когда его совершает компьютер? Вклад Уайтхеда и Рассела в науку огромен, поскольку они при создании своего математического труда приложили значительные усилия, отбирая необходимые данные и отбрасывая ненужные. Их гений должен был определить, какая информация релевантна. Еще важнее, что человеческий гений сумел понять, на какие математические задачи необходимо найти ответ. Из широчайшего спектра возможных математических задач они выбрали именно те, ответ на которые мог быть получен ими с наибольшей вероятностью. Компьютеру была дана вся необходимая информация и поставлена задача, которую требовалось разрешить, поэтому найденное им решение выглядит намного менее творческим и впечатляющим, чем та работа, которую проделали выдающиеся математики.
Это последний рубеж в искусственном интеллекте. Это звезда бесчисленных фильмов и романов, величайший злодей и герой современных фантазий. Я говорю об истинных «интеллектуальных» машинах, иногда называемых «жестким» ИИ или «общим интеллектом». То есть искусственный интеллект, который интеллектуален «как мы», «сознателен» или «самосознан».
Эта тема больше обсуждается философами и комментаторами поп-культуры, чем реальными исследователями искусственного интеллекта. Его термины слишком слабо определены, его последствия слишком малы для практического значения, чтобы заинтересовать большинство исследователей данных или разработчиков программного обеспечения. Философы и паникерские журналисты могут интересоваться гранью между простой математикой и мыслящим существом, но для практических целей современное состояние ИИ кажется настолько далеким от любой по-настоящему умной машины, что вопрос становится спорным.
Но я думаю, что это упущенная возможность. Хорошее понимание реальной практики искусственного интеллекта приводит к совершенно иной и более полезной перспективе вопроса. На самом деле, я убежден, что вопросы о том, как мы взаимодействуем с интеллектуальными машинами, не являются чем-то далеким или гипотетическим.прямо сейчаси применять к системам, с которыми мы уже сталкиваемся каждый день.
«… Проблема может быть описана в терминах игры, которую мы называем« имитацией ». В нее играют три человека, мужчина« А », женщина« В »и следователь« С », который может быть любого пола. Следователь находится в комнате отдельно от двух других. Цель игры для следователя - определить, кто из двух других является мужчиной, а кто женщиной. Он знает их по меткам X и Y, и в конце игры он говорит, что «X - это A, а Y - это B», или «X - это B, а Y - это А.» Следователю разрешено задавать вопросы A и B. …… Теперь мы задаем вопрос: «Что произойдет, когда машина сыграет роль А в этой игре?»
Это кристаллизует проблему компьютерного интеллекта. Предположим, что наш скрытый собеседник был компьютером, а не человеком, как бы мы, как следователь, узнали? Какие различия мы ожидаем увидеть? Можем ли мы представить какой-либо вопрос или серию вопросов, которые бы однозначно различали плоть и кровь сознательного человека и пластическую и проводную бессознательную машину?
Тьюринг не рассматривал это как практический ориентир, хотячасто неправильно истолковываетсяв качестве таких. Тьюринг не подразумевает, что машина, которая может обмануть человека, является «разумной», а машина, которая не может пройти, как человек, - нет. Это глупое толкование гораздо более изощренного аргумента. То, что описывает Тьюринг, является поразительным пониманием природы проблемы интеллекта. Тьюринг говорит нам, что различие между мышлением и не, между сознанием и сомнамбулансом лежит не на машине,но с человеком, воспринимающим это, Другими словами,как мы узналииз недавних достижений в генерации изображений, подделка это то же самое, что фактически делает это. Тьюринг говорит нам, что не имеет значения, думает машина или нет. Что имеет значение, является лимы относимся к этому, как будто это,
Позволь мне объяснить.
Каждый алгоритм искусственного интеллекта, от простейшего классификатора до самой сложной системы глубокого обучения, работает по схожему принципу. Учитывая набор данных, набор наблюдений о мире, алгоритм пытается построить набор правил -модель- что объясняет эти наблюдения. Для простых алгоритмов эти модели предельно просты:Динозавр с перьямиэтогораздо более вероятно, будет плотоядным»,«Монарх, который вступает на престол после 14 лет правилэтоеще много лет.Для сложных алгоритмов модели гораздо сложнее объяснить - алгоритм распознавания изображений (например, дляопределить средневековое оружие) строит абстрактное представление изображенного на нем изображения. Для людей-наблюдателей это представление совершенно непрозрачно, но для алгоритма оно содержит всю информацию, которая необходима для того, чтобы отличить глайв от алебарды, бардиш от бек-де-корбина. Алгоритм, который создаетописания новых гамбургеровссылается на огромное количество параметров, чтобы решить, следует ли нам кормить «Говяжий бургер с вяленой свининой» или «Говяжий бургер с излеченным раком» Но во всех случаях эти алгоритмы работают на один и тот же результат: минимизировать неожиданность. Правильный ответ - тот, который делает мир немного менее озадачивающим, немного более безопасным.
В этом эти алгоритмы сродни людям. Я не эксперт по человеческому познанию, но легко представить человеческое мышление таким же образом. Посмотрите, как ребенок наслаждается игрой в прятки, и вы можете увидеть процесс, происходящий у вас на глазах: «Лицо! Восхитительный! Но что это? Лицо ушло! Что случилось? Где это может быть? О, вот оно! Удивительно! »Этот процесс бесконечно развлекает ребенка, по-видимому, независимо от того, как часто он повторяется. Но то, что радует их, - это не полное удивление, а исполнение ожиданий - радость малыша возрастает по мере того, как они учатся правилам игры. Радость не в том, чтобы удивляться, когда лицо исчезает, а в том, что их ожидания подтверждаются, когда оно возвращается. Вероятно, слишком упрощенно говорить, что этот процесс лежит в основе всей человеческой мысли, но ясно, что на очень глубоком уровне наше мышление очень глубоко привязан к процессу прогнозирования.
Так же, как алгоритм машинного обучения, мы строим модели, чтобы объяснить мир вокруг нас. Некоторые из них очень простые модели. Ребенок, играющий в прятки, изучает одну из самых фундаментальных моделей:постоянство объектаидея о том, что объекты в мире продолжают существовать, даже если мы не можем сразу их воспринять. Эта модель чрезвычайно полезна для понимания мира вокруг нас. Мы закрываем глаза и не удивляемся, когда открываем их, чтобы найти мир примерно таким же, каким мы его оставили. Мы откладываем что-то, уходим, и когда нам это снова нужно, мы возвращаемся в то же место, чтобы найти это. Это ожидание настолько важно для нашего восприятия мира, что легко забыть, что это ментальная модель - конструкция нашего разума. Мы продолжаем верить в существование объектов вне нашего восприятия не потому, что у нас есть какие-либо прямые доказательства этого, а потому, что нам это чрезвычайно полезно.
В человеческом мышлении есть еще одна фундаментальная модель:теория разума, Это способность объяснять действия другого существа (или себя), ссылаясь на существование скрытых психических состояний - убеждений, эмоций, намерений, знаний. Эта модель позволяет нам понять сложное поведение, превратив его в своеобразный рассказ. Интеллект - это история, которую мы рассказываем себе, чтобы объяснить непредсказуемое поведение.
Возможно, самые сложные модели, которые люди создают, - это то, что мы знаем какнарративы, Участок. Описание ряда событий, связанных между собой некоторой соединительной тканью причины и следствия, некоторого чувства цели и внутренней согласованности - более глубокое значение. Канонический пример взят из «Аспектов романа» Э. М. Форстера.
«Король умер, а затем королева умерла» - это история. Но «король умер, а затем королева умерла от горя» - это заговор ».
Другими словами, ряд событий сам по себе является просто бессмысленным шумом. Что превращает их во что-то значимое, так это некоторое чувство причинности, неизбежности -предсказуемость,
Последние девять месяцев я изучал многие виды искусственного интеллекта, от чрезвычайно простого до чрезвычайно сложного. Япостроил моделькоторый может сжимать информацию из сотен тысяч точек данных в числовую мерусмыслфильма. Я построил модель, которая можетрисовать новые произведения искусства, Но модель, которая была ближе всего к чувству на самом делеумныйбыл, вероятно, самым простым из них - это просторуководствовался движением маленьких точек на экране, Движение точек, преследование или бегство, регулируется некоторыми простыми правилами - несколькими строками кода и некоторой базовой геометрией. Но для наблюдателя возникает сложный мир личностей и историй. Точка погони дружелюбна и нетерпелива. Бегущая точка робка и застенчива. Уверенности дружественной точки в сторону застенчивой точки обречены на постоянное отклонение. Эти личности и сюжеты не существуют нигде в коде. Они существуют только в воображении человека, наблюдающего за игрой. Другими словами, их интеллект не является свойством разума точек, это свойство разума наблюдателя.
В теории систем они используют слово «возникновение» для описания явления сложного поведения, возникающего в результате взаимодействия многих, гораздо более простых систем. Общепринятое мнение о гипотетическом «сознательном» ИИ заключается в том, что его сознание должно быть эмерджентным свойством - что достаточно сложная система с достаточной вычислительной мощностью и достаточным количеством входных данных каким-то образом «проснется» в сознании. Но я думаю, что эта модель мышления в корне неправильно понимает, что такое интеллект - это не внутреннее качество, а скорее наблюдаемое
Другими словами, та магическая «искра», которая пробуждается в сложной системе, которая превращает ее из безжизненной машины в сознательное существо, не является продуктом ее способности мыслить, а скорее является продуктомнашумение сопереживать. Там нет волшебного момента, лежащего где-то в будущем, когда машина преодолеет какой-то критический порог сложности и оглянется на нас через экран компьютера. Этот порог существует во всех нас, и каждый день его пересекают небольшими способами.
Каждый момент, когда наш мозг, формирующий паттерны, трансформирует поведение машины в личность, эта машина, в прямом смысле этого слова, жива для нас. Каждый раз, когда мы ругаемся за ненадежный ноутбук, каждый раз, когда мы молча благодарим наш музыкальный проигрыватель за отличный выбор, каждый раз, когда мы чувствуем симпатию к персонажу в видеоигре, небольшое сознание на короткое время оживает.
Какой захватывающий мир открывает этот способ мышления! Каждый алгоритм, от самого простого классификатора до самого сложного генератора изображений, является продуктом человеческой идеи, кодированием человеческих убеждений. Это не просто инструменты, но бестелесные мысли, осколки интеллекта, действующие в мире. Когда мы взаимодействуем с алгоритмом - когда нам показывают рекомендации фильма, когда мы предварительно одобрены для получения банковского кредита, когда мы сканируем через ворота безопасности - мы взаимодействуем с небольшим отражением человека, крошечным фрагментом ума. Данные, на которых они обучаются, особенности этих данных, которые они рассматривают, их параметры успеха и неудачи, все отражают мысли и желания, надежды и ценности людей, которые их создали. Далекие от инопланетного злоумышленника или иностранной угрозы, машины - это просто новое судно для передачи наших собственных мыслей и чувств. В прямом смысле, они наши дети. Машины не заменят нас, ониявляютсянас.
И, как и наши дети, они несут наши предубеждения. Мы видели бесчисленные примеры алгоритмов, которые встраивают предположения их создателей. В одном из моих самых ранних сочинений на эту тему я показал, как, например, мое высокомерие в мышлении, которое я понимал в вязании, привело меня к созданию модели, которая в корне неправильно поняла, как рекомендовать вязание. Наша неспособность сопереживать с машинным интеллектом придает им вид беспристрастности. Мы принимаем от них безоговорочно суждения, которые мы никогда бы не приняли от человека. Потому что мы слепы к ихчеловечностьМы слепы к их ошибочности.
Девять месяцев назад, когда я начал эту серию эссе,Я писал о промышленной революциии потрясения, которые это вызвало. Подобные потрясения, я полагаю, снова вероятны в нашем будущем. Но то, что я узнал в ходе этих эссе, и что я пытался спорить в этом эссе, это то, что они в основном вызванычеловекфакторы - человеческими убеждениями, человеческими страхами и человеческими надеждами. Эти алгоритмы иногда бывают сложными, а иногда и удивительными, но они никогда не бывают настолько удивительными или настолько сложными, что мы не можем понять и в некоторой степени предсказать их возможные сильные и слабые стороны.
Я не пессимист и не паникер о будущем искусственного интеллекта и его влиянии на наш мир. Я верю, что все мы в будущем увидим эти алгоритмы просто как расширения людей и систем, с которыми мы уже взаимодействуем каждый день. Если они расширяют и усиливают власть некоторых групп над нами, то я надеюсь, что они также расширят нашу способность противостоять этой власти. Я надеюсь, что более глубокое понимание этих алгоритмов, их происхождения и их потенциала поможет нам построить лучшее будущее вместе с ними.
Спасибо за чтение! Это эссе является завершением серии, которую я публикую каждый месяц с начала 2019 года. Если вы хотите начать с самого начала, доступно первое эссе в серии.Вот,
Читайте также: