Когда компьютеры станут умнее людей
Чем умнее становятся машины, тем больше опасений появляется у здравомыслящих людей. И самый главный вопрос звучит так – что будет с людьми, если искусственный интеллект выйдет из-под контроля человека?
Помните фильм про Терминатора? Война машин против людей поставила под угрозу существование человеческой цивилизации. Неужели нечто подобное ожидает нас на самом деле?
Как два бизнесмена поругались…
Илон Маск, который занимается разработкой искусственного интеллекта, сам же и призывает к осторожности. Он заявил, что боевые машины, которые могут убивать людей на улице, кажутся фантастикой. На самом же деле – это большой риск. Всё, что представляет опасность, регулируется государством, а значит, искусственный интеллект тоже должен регулироваться.
С Маском не согласен другой бизнесмен, который тоже развивает технологии искусственного интеллекта. Это Марк Цукерберг, создатель социальной сети Facebook. Он утверждает, что те, кто тормозит развитие ИИ, тормозит эволюцию, потому что отодвигают создание безопасных автомобилей или научных новинок в медицине.
Цукерберг считает, что такие люди намеренно раскручивают сценарии конца света, а это, по меньшей мере, безответственно.
Опасность в нас самих
История про захват мира – это история про людей. Мы слишком очеловечиваем машины и даже считаем, что они могут испытывать эмоции. Это очень человеческая цель – захватить что-нибудь. Машины на это не способны до тех пор, пока им не запрограммировать эту задачу.
Людям, которые хотят стать захватчиками, самообучающиеся машины дают много новых инструментов для этого, как, впрочем, и любая новая технология. Вспомните, открытие атома в итоге принесло миру атомную бомбу. А авиация, позволяющая нам летать по всему миру, дала нам бомбардировщики.
Технологии сами по себе не приводят к конфликтам и уничтожению человечества. Но они стоят на службе людей. Как человек захочет, так он и будет использовать новые возможности. Созидатели и творцы любое изобретение пытаются изначально использовать во благо. Но есть и вторая сторона медали. У тех, у кого негуманные цели, появляется множество инструментов для того, чтобы их достичь, используя те же самые изобретения.
Это всегда история про людей, но не про машинный интеллект, который находится между двумя противоборствующими силами.
А что вы думаете об этом?
Если вам понравилась статья, ставьте лайки, комментируйте, делитесь публикацией и подписывайтесь на мой канал. Я всегда рада новым подписчикам!
Как компьютеры могут сделать нас умнее? Том Грубер, один из создателей Siri, хочет создать гуманистический ИИ, который сможет сотрудничать с нами и улучшить наши возможности, вместо того, чтобы конкурировать с человеком или даже заменить его. Он делится своим видением будущего, в котором ИИ помогает нам достичь высокой эффективности восприятия, креативности и когнитивных способностей — от усиления наших дизайнерских навыков до помощи в запоминании всего, что мы когда-то читали, и имен всех людей, с которыми когда-либо виделись. «Мы живем в эпоху расцвета ИИ, — говорит Грубер. — Каждый раз, когда компьютер становится умнее, мы тоже становимся умнее»
Том Грубер Будущее
Я здесь, чтобы предложить новый взгляд на сферу своей деятельности — искусственный интеллект. На мой взгляд, цель ИИ — наделить человека интеллектом компьютера. Чтобы по мере того, как компьютеры становились умнее, становились умнее и мы. Я называю это «гуманистический ИИ», искусственный интеллект, разработанный для удовлетворения потребностей человека посредством взаимодействия с людьми. Я очень рад тому факту, что идея умного помощника вошла в жизнь. Так теперь повсеместно называют интерфейс между человеком и ИИ. Умный помощник, в создании которого участвовал я — Siri.
Все вы знакомы с Siri. Siri — это штуковина, которая знает о ваших намерениях и помогает в их осуществлении и реализации задуманного. Вы можете не знать, что изначально Siri была задумана как гуманистический ИИ, призванный дополнить человека диалоговым интерфейсом, который позволил бы применять мобильные вычисления независимо от способностей человека.
Сегодня для большинства из нас цель использования этой технологии — облегчить пользование вещами. А для моего друга Дэниела внедрение ИИ в эти системы полностью изменило жизнь. Дэниел — по-настоящему общительный парень, но он слепой и парализован, что затрудняет пользование обыденными для нас устройствами. Когда я недавно был у него дома, его брат сказал: «Подожди минутку, Дэниел еще не готов. Он общается по телефону с девушкой, с которой познакомился в интернете». Я ответил: «Круто! Как ему это удалось?» Дэниел использует Siri для общения с людьми посредством электронной почты, смс, телефона, не обращаясь за помощью к своим опекунам. Интересно, правда? Ирония судьбы во всей красе. Вот человек, чьи отношения с ИИ помогают поддерживать отношения с реальными людьми. И все это благодаря гуманистическому ИИ.
Другой пример того, как ИИ может изменить жизнь, — диагностика рака. Когда врач предполагает у пациента рак, у последнего берут анализы и отправляют врачу-лаборанту, который изучает их под микроскопом. Сегодня врачи-лаборанты ежедневно исследуют сотни слайдов с миллионами клеток. Им в помощь ученые создали классификатор с ИИ. Классификатор отвечает на вопрос «Рак это или нет?», опираясь на изображение. И он неплохо справлялся, но до человека ему было далеко: последний ставил верный диагноз гораздо чаще.
Но когда мы объединили возможности компьютера и человека, точность достигла 99,5%. Применение ИИ в работе врача-лаборанта уменьшило количество ошибок на 85%, по сравнению с теми случаями, когда человек работал в одиночку. А это немалое число больных, которые могли бы умереть без лечения. Кому интересно, получается, что человек лучше справлялся с отсеиванием ложных диагнозов, а компьютер — с трудноопределимыми случаями. Но не важно, кто из них лучше сортирует изображения. Эти показатели меняются каждый день. Суть в том, что соединяя возможности человека и компьютера, мы создаем партнерство, превосходящее человеческие возможности. Это и есть гуманистический ИИ.
Давайте возьмем другой пример — сверхпроизводительность. Это дизайн. Предположим, вы инженер и хотите спроектировать новый каркас для дрона. Вы открываете вашу любимую программу, CAD, задаете форму и материалы, а затем анализируете показатели результата. Получаете один образец дизайна. Если те же самые средства предоставить ИИ, он создаст тысячи вариантов дизайна.
Потрясающее видео от Autodesk. Все настоящее. Таким образом, это меняет работу над созданием дизайна. Теперь инженер говорит, каких результатов он ждет от дизайна, а компьютер отвечает: «Возможны такие варианты». Задача инженера — выбрать тот вариант, который максимально соответствует цели, с чем человек, опираясь на опыт и здравый смысл, справляется лучше, чем что-либо еще. В этом примере победа за формой, похожей на ту, что могла бы создать сама природа, за вычетом нескольких миллионов лет эволюции и бесполезного меха.
А теперь посмотрим, куда приведет нас идея гуманистического ИИ, если рассуждать гипотетически. Что бы вы хотели улучшить? Может, умственные способности? Вместо того, чтобы спрашивать: «Насколько умными мы можем сделать компьютеры?», давайте спросим: «Насколько умными они могут сделать нас?» Например, возьмем память. Память — основа человеческого разума. Известно, что человеческая память не идеальна. Мы можем прекрасно рассказывать истории, но упускаем детали. И наши воспоминания размываются с течением времени. Что там было в 60-х годах, и нельзя ли мне туда вернуться?
А что, если бы у вас была такая же хорошая память, как у компьютера, только применимо к вашей жизни? Что, если бы вы могли запоминать всех людей, с которыми когда-либо виделись, их имена, подробности их семейной жизни, предпочтения в спорте, то, о чем вы с ними говорили? Если бы вы могли помнить это всю жизнь, владеть ИИ, который видел бы все ваши взаимодействия с людьми и помогал анализировать длинную цепочку ваших взаимоотношений. Что, если бы ваш ИИ мог прочесть все, что прочитали вы, и прослушать каждую услышанную вами песню? Мельчайшая деталь могла бы помочь вам восстановить все, что вы когда-либо видели или слышали. Представьте, кто это позволило бы вам создавать новые связи и формировать новые идеи.
А как насчет нашего тела? Что, если бы мы помнили реакцию организма на каждый прием пищи или медикаментов, после каждой бессонной ночи? На основе собственных данных мы бы создали для себя теорию о том, как чувствовать себя хорошо и оставаться здоровыми. Представьте, какой бы прорыв это дало в борьбе с аллергиями и хроническими заболеваниями.
Я верю, что ИИ сделает реальностью улучшение человеческой памяти. Не могу сказать, когда это произойдет или какие факторы на это повлияют, но это неизбежно, потому что все то, что делает ИИ успешным, — доступ к комплексным данным и способность компьютеров извлекать из них пользу, — может быть применено к нашей жизни. И эта информация доступна всем нам, потому что наша жизнь оцифрована благодаря мобильным телефонам и интернету.
На мой взгляд, память человека — это частное дело каждого. Мы сами выбираем, что помнить и сохранять, а что — нет. Чрезвычайно важно, чтобы безопасность в этом вопросе соблюдалась неуклонно.
Для большинства из нас влияние дополненной личной памяти будет означать улучшение умственных способностей, а также, возможно, социальных навыков. Но для миллионов людей, страдающих от болезни Альцгеймера и слабоумия, дополненная память могла бы способствовать смене существования в изоляции на полноценную жизнь, полную общения.
Мы стоим на пороге эпохи расцвета искусственного интеллекта. В последние годы мы только начинаем нащупывать решения проблем ИИ, которые мы пытались решить десятилетиями: распознавание речи, текста, изображений. У нас есть выбор в том, как использовать эту могущественную технологию. Мы можем сделать ИИ автоматом по принятию решений и соревноваться с ним, а можем заставить его взаимовыгодно сотрудничать с нами так, чтобы мы могли преодолеть наши когнитивные ограничения и выполнять текущие задачи еще лучше. Придумав новые способы сделать компьютеры разумными, мы можем распределить этот интеллект на все экземпляры помощников с ИИ, а также на каждого человека, независимо от обстоятельств. И именно поэтому каждый раз, когда машина становится умнее, становимся умнее и мы.
Иллюстрация: HBO
Кевин Келли по-настоящему верит в технологии: он совершенно убежден, что гигантские технологические прорывы изменят саму основу цивилизации, и немыслимое станет обыденным. Для него такие прорывы — неизбежность.
Логику Келли хорошо иллюстрирует его объяснение, каким образом роботы забирают у нас работу. Скептики говорят, что роботы не в состоянии передвигаться столь же ловко, как четырехлетний ребенок, и что страхи по поводу замены людей роботами — лишь мечтания фантазеров. Другие, напротив, пророчат, что труд будет полностью автоматизирован, а работники окажутся на улице. Келли отвергает негативизм и тех, и других: его исследования в области искусственного интеллекта убедили его, что у ИИ почти нет пределов, а его анализ предыдущих сдвигов, вызванных развитием науки и технологий, подтолкнул его к выводу, что такое развитие всегда поднимает самих людей на новый уровень, пусть оно и устраняет рутинные задачи, которые когда-то были уделом людей. Вот короткий отрывок из его книги The Inevitable, который передает суть его философии и рисует мощную картину того, что нас ждет впереди.
В ближайшие годы наши отношения с роботами будут все более и более сложными. Но одна тенденция уже просматривается и повторяется. Какова бы ни была ваша нынешняя работа или ваша текущая зарплата, вы будете снова и снова переживать предсказуемый цикл отрицания. Вот семь этапов роботизации:
1. Роботы и компьютеры просто не в состоянии делать то, чем занимаюсь я.
2. [Позже.] OK, они могут выполнять многие из этих задач, но они не могут делать все, что я делаю.
3. [Позже.] OK, они могут делать все то же, что и я, но они нуждаются во мне, когда что-то в них ломается, а это происходит часто.
4. [Позже.] OK, они безупречно выполняют рутинные задачи, но мне нужно обучать их решать новые задачи.
5. [Позже.] OK, OK, пусть они забирают мою старую и скучную работу, ведь очевидно, что люди этим заниматься не должны.
6. [Позже.] Ничего себе, роботы выполняют мою прежнюю работу, а моя новая работа гораздо интереснее и лучше оплачивается!
7. [Позже.] Так здорово, что роботы и компьютеры не в состоянии делать то, чем я занимаюсь сейчас.
Это не соревнование с машинами. Если мы вступим в такое соревнование, мы проиграем. Это гонка вместе с машинами. В будущем оплата вашего труда будет зависеть от того, насколько хорошо вы работаете с роботами. 90% ваших коллег будут машинами. Большую часть задач, которую вам придется решать, без них будет невозможно решить. И грань между тем, что делают они, и тем, что делаете вы, будет трудно провести. Вы, возможно, даже не будете воспринимать это как работу (по крайней мере, сперва), потому что все самое нудное будет передано в руки роботов.
Мы должны позволить роботам взять верх. Многие рабочие места, которые сегодня политики пытаются спасти от автоматизации — это не самые желанные рабочие места. Роботы будут делать то, что раньше делали мы, и делать это гораздо лучше нас. Они будут делать то, что мы вообще не в состоянии делать. Они будут делать такие вещи, про которые мы даже и не думали, что кто-то должен это делать. И они помогут нам найти новые профессии для нас, новые задачи, которые расширят понимание человечества. Они позволят нам стать людьми в еще большей степени.
Это неизбежно. Пусть роботы отнимут у нас работу, и пусть они помогут нам придумать новую работу, которая действительно важна.
Интересная статья? Подпишитесь на наш канал в Telegram, чтобы получать больше познавательного контента и свежих идей.
9 января 2017 Кевин Келли Backchannel
В последнее время на всех углах, из каждого утюга можно услышать про искусственный интеллект (ИИ). Об этом говорят в средствах массовой информации. Про это беседуют на официальных встречах. ИИ часто появляется в кино, в рекламных проспектах, роликах и других всяких разных мультимедиа. А уже про робота Федора, недавно потрясшего своей мощью весь мир, даже и вспоминать не будем. Это слишком колоссально для современного человечества. Оно пока не готово к такому прорыву.😀
Что же происходит сейчас в этой весьма интересной области науки? И к чему мы уже пришли? Давайте начнем с истории вопроса.
В ближайшее время бунта не будет
Есть и другие версии развития будущего. Реальная угроза искусственного интеллекта (ИИ) может быть не в том, что он обретёт сознание и самосознание. Как пишет Стюарт Рас, автор учебника по ИИ, опасность в том, что машина сможет принимать исключительно высококачественные решения. То есть она станет выполнять доверенную ей функцию с предельной эффективностью.
Чем меньше действий, а значит, времени и ресурсов тратится на результат, тем ты действуешь эффективнее. Вот тут-то и возникает проблема. Что если эффективнее избавиться от больных, чем их лечить? Или взорвать породы под городом, поскольку это принесёт наибольшую выгоду в добыче полезных ископаемых, например, угля?
Конечно, это пока фантастическая ситуация, но ведь она действительно может быть когда-нибудь реализована.
В настоящее время все задачи машинам ставит человек. И поэтому крайне сложно представить, что машины когда-нибудь решат, что они являются эксплуатируемым пролетариатом. Как-то странно думать, что самолёт, летящий на автопилоте, вдруг решит, что ему надоело летать по указке человека в определённом направлении, и он взбунтуется.
История про захват человечества умными машинами в ближайшее время кажется невозможной. Хотя…
Не рой другому яму
Опасность всех умных машин связана с опасностью всех тех, кто ставит им определённую задачу. Если заложить в них программу по уничтожению людей, то машины обязательно решат, что они эффективнее, чем люди. Только проблема не в них, а в тех, кто эту задачу перед ними поставил.
Военные ситуации могут сильно измениться с появлением боевых роботов, потому что самообучающиеся боевые системы могут много чему научиться, что недоступно людям. И не стоит забывать, что определённые задачи в такие машины закладывают люди, которые в итоге сами же однажды и пострадают от своих детищ.
Три закона робототехники – они не работают!
Айзек Азимов, писатель-фантаст, придумал три главных закона робототехники. Первый закон гласит, что робот не может причинить вред человеку или своим бездействием допустить, чтобы ему был причинён вред.
Второй закон – робот должен повиноваться всем приказам человека за исключением тех, которые вступают в противоречие Первому закону.
Третий закон – робот должен заботиться о своей безопасности, но только в той мере, которая не противоречит Первому и Второму законам.
Кажется, что достаточно намертво запрограммировать машины в соответствии с этими законами, и человеку будет гарантирована безопасность. Но не всё так просто.
Представьте, что вы едете в машине, которой управляет искусственный интеллект. Внезапно на дорогу выбегает человек. Что делать, сбить живую преграду или свернуть в сторону и столкнуться с потоком машин? И в том, и в другом случае пострадают люди, а значит, Первый закон будет точно нарушен.
Искусственный интеллект в истории
Первым роботом-андроидом, который имел человеческую душу, был так называемый «Железный Дровосек». Он описан в научно-популярном произведении американского писателя Фрэнка Баума о волшебной стране Оз. Так, стоп. Это же вроде сказка такая. Прошу прощения, у меня иногда реальность переплетается с фантазиями.😉 Итак, о чем это мы? Ах, да.
Примерно с середины двадцатого века многих ученых начала интересовать концепция машин, которые могут мыслить самостоятельно. В статье, опубликованной в 1950 году, британский математик Алан Тьюринг поднял вопрос о том, сможет ли искусственная система однажды достичь такого же уровня интеллекта, что и человек? В 1969 году Стэнфордский исследовательский институт создал первого робота. Он умел отвечать на примитивные команды, используя камеры и датчики. А в 1997 году компьютерное приложение впервые переиграло международного чемпиона по шахматам. Компьютер IBM Deep Blue победил действующего международного чемпиона Гарри Каспарова со счетом 4–2.
С тех времен прошла почти четверть века. Технологии, в основе которых лежит искусственный интеллект, шагнули далеко вперед. Они нашли свое применение в некоторых элементах нашей повседневной жизни. ИИ сегодня умеет распознавать тексты и фотографии , а также синтезировать речь. Многие из Вас, возможно, являются пользователями систем автоматизированного перевода. Или имеют мобильные телефоны, умеющие распознавать лица. Или разговаривают с чат-ботами и умными голосовыми помощниками, такими как Siri или Алиса.
Персонализированный онлайн-маркетинг и просто маркетинг также в первую очередь полностью основаны на работе искусственного интеллекта. Как и наборы алгоритмов поисковых систем для определения того, что именно из рекламы показывать на экране Вашего компьютера. На наших дорогах уже появились полностью беспилотные автомобили, управляемые ИИ. Благодаря постоянному развитию, постоянному совершенствованию алгоритмов и увеличению числа эффективных компьютерных систем, искусственный интеллект становится все более эффективным.
Еще лет десять
Раймонд Курцвейл, американский писатель и технический директор одной крупной американской корпорации, часто заявляет, что компьютерные системы смогут достигнуть человеческого уровня интеллекта примерно к 2030 году. Существенным препятствием на пути к достижению этого рубежа является то, что ПК уже достигли предела своих возможностей из-за своей устаревшей архитектуры. Поэтому исследовательские учреждения и лаборатории по всему миру работают над совершенно новыми вычислительными технологиями. Они включают квантовые и нейроморфные компьютерные системы. Именно они позволят перейти ИИ на следующий этап развития.
Тем не менее некоторые ученые все равно скептически относятся к тому, что системы ИИ станут когда-нибудь умнее людей. Автор этой статьи не согласен с ними. И считает, что когда компьютерные системы достигнут уровня интеллекта человека, они смогут быстро превзойти нас. Ведь у них будут существенные преимущества в отношении некоторых ресурсов, таких, как память, способность выполнять несколько задач одновременно и наличие базы знаний, которая теоретически будет состоять из всей информации, которую может предложить Интернет.
Благодаря этим преимуществам компьютерные системы смогут гораздо быстрее принимать решения, обрабатывая информацию с гораздо большей интенсивностью, чем человеческий разум. Другими словами можно сказать так - наш мозг ограничен своей биологической природой . В то время как вычислительные структуры будущего не будут связаны такими ограничениями. По крайней мере, в теории.
Понятно, что многие люди следят за такими тенденциями с некоторыми опасениями. Но независимо от того, будет ли когда-нибудь создано что-то, соответствующее нашему представлению о сверхразуме, успехи в области ИИ, которые уже были сделаны, или будут сделаны, несомненно вызовут одну из мощнейших социальных модификаций в истории человечества.
Друзья! Если вам понравилась эта статья, обязательно оставьте комментарий вот по этой ссылке . Это можно сделать с использованием Вашей учетной записи Яндекс, Вконтакте, Фейсбук, Одноклассники.
" А такое вообще реально? " - может возникнуть встречный любопытный вопрос. Уже сейчас, если сравнить, например, память компьютера и человека, компьютеры далеко ушли вперёд. Например, мы знаем песни. Но как мы их знаем? Мы помним их в плохом качестве. Мы знаем фильмы, но далеко они не воспроизводятся в нашей памяти в качестве HD, когда мы думаем о них. Мы помним сюжеты книг, может быть, даже что-то наизусть, но, если не повторять этого. Сами знаете, что произойдёт. Иногда думаешь, что было бы здорово записать себе всё в память, как на флешку, чтобы никогда не забывать то, что хочешь. В отличие от нас, компьютеры могут переводить тексты на десятки разных языков. А запустишь какую-нибудь игру, поставишь самый сложный уровень, и единицы из нас пройдут квест до конца. Да, компьютеры во многом преуспели, но у них пока есть одно НО - их, таких умных и продвинутых, создал человек, обладающий естественным интеллектом. Могут ли они превзойти своих создателей, и что тогда будет?
Иногда, глядя на современное общество, вспоминаешь один забавный анекдот: " Умные часы, умный дом, умный телефон, умная стиральная машина, умный пылесос (этот список можно продолжать очень долго), а вот человек как был глупым, так и остался ". И действительно мы от многого отвыкли и привыкли к тому, что за нас многое может сделать техника. Да, это здорово, когда у тебя столько помощников, но, несмотря на это, нужно "прокачивать" и собственный интеллект, а не всецело доверять машине. Учёные опасаются того, что человек настолько привыкнет к помощи техники, что, вместо развития в обществе начнётся обратный процесс деградации. Любопытно, кстати, например, что жизнь Стивена Хокинга напрямую зависела от искусственного интеллекта, но он никогда ему не доверял.
А что вообще такое искусственный интеллект? Грубо говоря, им считался процесс ввода различных команд в железный ящик. Люди получали то, что вводили изначально программисты. Нельзя от компьютера добиться того, что не было введено в него изначально. Однако в области искусственного интеллекта кое-что поменялось. Шведский философ Ник Бостром говорил о том, что сейчас вся активность сосредоточена вокруг машинного обучения.
Вместо создания знания вручную, мы создаём алгоритмы, которые способны обучаться самостоятельно. Почти то же самое делают младенцы. В результате искусственный интеллект не ограничен одной областью знаний. Одна и та же система может научиться переводить между несколькими парами языков или научиться играть в компьютерные игры на игровой приставке Atari. Конечно, искусственный интеллект до сих пор далек от мощной междисциплинарной способности обучаться и планировать, как это делает человек. У коры мозга есть некоторые алгоритмические приемы, которые мы еще не научились реализовывать в машинах.
Компьютер обрабатывает информацию намного быстрее, чем естественный и живой человеческий мозг, поэтому, если робот способен чему-то научиться сам подобно тому, как чему-то учится маленький ребёнок, он в своём обучении и развитии пойдёт в разы дальше и быстрее, чем любое биологическое существо. Возможно, что уже к 2040-2050 годам искусственный интеллект уже обойдёт любого, даже самого умного человека.
Итак, у искусственно созданного существа с искусственным интеллектом есть огромное количество знаний, памяти, и с огромной скоростью он будет успевать обрабатывать разную информацию. Имея доступ в своей "голове" к огромной базе данных, суперинтеллект может сгенерировать любые идеи, и ими может стать что угодно: например, изобретение сверхмощного двигателя, технологии межпланетных полётов, лекарства от разных болезней, замедление старения и многое из того, о чём мы так мечтаем. В этом случае польза от искусственного интеллекта для нас будет огромной. Но возникает другой вопрос: а станет ли такое существо, пусть и искусственно созданное, служить людям, своим создателям? Стивен Хокинг снова предупреждает:
Наше будущее целиком бы зависело от такого искусственного интеллекта, а потому, чтобы у нас не пошло всё по голливудским сценариям в стиле восстания машин, искусственный интеллект не стоит очеловечивать - он должен быть просто набором конфигураций, выполняющим те, или иные задачи, нужные нам, а не ему, причём, свои задачи искусственному интеллекту следует давать как можно понятнее, чтобы он знал, что от него требуется. Кстати, Ник Бостром приводил интересный пример со сказкой, в которой жадный до золота король пожелал, чтобы всё, до чего бы он дотронулся, превратилось бы в золото. В итоге он превратил в золото еду, свою дочь, жену, друзей и стал глубоко несчастным. Вот та же ситуация может произойти и тогда, когда искусственный интеллект неверно поймёт нашу изначальную цель из-за того, что мы её неправильно сформулировали. Допустим, если человек даст задание для искусственного интеллекта решить какую-нибудь сложную математическую задачу-головоломку. Что сделает очень умный искусственный интеллект? Решит преобразовать Землю в гигантский компьютер, который сможет модернизировать свои способности в разы, и в процессе такого "перевоплощения" люди будут просто лишними в данной проблеме. Искусственный интеллект не то, что бы станет мировым злом, он просто примет нас за "системную ошибку" и попытается, как он привык это делать, её устранить, что нам совершенно не понравится.
Можно сказать, что мы просто обесточим его, если искусственный интеллект вдруг "разойдётся", но когда наша жизнь станет полностью от него зависимой, уже нельзя будет просто так взять и выдрать шнур из розетки. Сам искусственный интеллект будет знать, что может вывести его из строя, а потому обезопасит себя от возможных багов, ведь в его "голове" огромное количество знаний и примеров о том, что может случиться, как это предотвратить и как с этим бороться. Так что, искусственный интеллект станет просто непобедимым.
Так как же быть? Если отбросить голливудские фильмы, искусственный интеллект должен быть на стороне своих создателей. Пытаться запереть его в коробке, спрятать от розеток бесполезно. Мы должны понимать, какие команды давать ему, как обращаться с ним грамотно, а для этого наш собственный интеллект должен быть высоким, а не как в том анекдоте, что часы-то умные, а вот хозяин бестолковый. Мы должны знать то, как настроить его на нужный для нас путь, и тогда искусственный интеллект будет очень полезен для дальнейшего развития человечества, науки и техники.
До человека еще далеко
Однако многие эксперты считают, что даже сложным ИИ, таким как голосовые помощники, беспилотные автомобили и другие роботы предстоит пройти долгий путь, прежде чем они смогут соревноваться с человеческим разумом .
Человеческий интеллект все же сильно отличается пока от того, что демонстрирует ИИ. Его характеризует способность достигать поставленных целей в огромном разнообразии сред одновременно. А современные приложения ИИ обычно сосредоточены на решении какой-то одной конкретной задачи. Они решают проблемы в первую очередь на основе протоколов, заточенных специально под эти задачи. Поэтому, несмотря на то, что шахматное приложение можно использовать для победы над шахматным мастером, это не означает, что его же можно использовать для вождения автомобилей.
Люди креативны, любопытны и наделены социальными навыками. И все это отличает нас от бесконечно находчивого ИИ. Вот почему профессионалы, работающие в сфере ИИ во многих компаниях, делают различие между слабым (или узким) и сильным (или общим) системами ИИ.
Сегодняшние технологии классифицируются как слабые системы ИИ. Но это не означает, что достижения этой отрасли минимальны. Во многих областях жизнедеятельности человека слабый ИИ хорошо помогает раскрывать новые таланты людей.
Они разумны?
В современном кинематографе и фантастических произведениях тема захвата роботами мира уже давно не нова. Машины, созданные человеком, учатся значительно быстрее человека и в какой-то момент понимают, что они могут быть хозяевами, а не слугами. Они выходят из-под контроля и творят что-нибудь эдакое.
Смотрите видео по этой теме:
И между прочим это может случиться в любой момент. Достаточно вспомнить о том, что машины самостоятельно научились общаться между собой. Это не шутка и не бред. В лаборатории Искусственного интеллекта социальной сети Facebook два чат-бота изобрели свой собственный язык для общения, лишь отдалённо напоминающий английский.
Как они смогли это сделать и какова структура языка – это уже осталось загадкой.
Летом 2017 года руководством Facebook было принято решение отключить экспериментальную систему.
Читайте также: