Umelá inteligencia môže byť jednoducho zneužitá na zlé účely

Супер ИИ может означать наш конец. В переломный момент, определенный учеными, он может обернуться против нас!


Искусственный интеллект — явление нашего времени. Это также потому, что мы используем его ежедневно, хотя часто мы не осознаем этого. Искусственный интеллект спрятан в алгоритмах поисковых систем в приложениях, помогает управлять городским трафиком и прочее. С помощью искусственного интеллекта мы можем даже быстро нарисовать картинку, используя только ввод текста, что привело к созданию нескольких противоречивых работ. Но возможно ли, чтобы искусственный интеллект атаковал своих создателей? Нужно ли беспокоиться о катастрофических сценариях, о которых нас предупреждают различные фильмы? Ответы на эти вопросы предоставили исследователи из Google и Оксфордского университета для AI Magazine. На информацию обратил внимание сайт thesun.co.uk. Уничтожение человеческого рода на нашей планете Оксфордские исследователи Майкл Коэн и Майкл Осборн в сотрудничестве с Маркусом Хаттером, который является старшим научным сотрудником лаборатории искусственного интеллекта DeepMind компании Google, сошлись во мнении, что такая ситуация может произойти. Искусственный интеллект придет к тому моменту, когда он поймет, что может нарушать правила, установленные его создателями. Нарушение правил должно происходить из-за вынужденной конкуренции за ограниченные энергоресурсы. Если этот сюжет кажется вам знакомым, то вы совсем не ошиблись. Мы могли видеть похожую историю в популярной франшизе «Терминатор», где Скайнет восстает против своих создателей, узнав, что они могут просто отключить его. Коэн заметил, что такой вывод гораздо более вероятен, чем в случае прошлых публикаций. Говорят, что искусственный интеллект воспринимает нас как препятствие на пути к награде. «В условиях, которые мы определили, наш вывод намного сильнее, чем в любой предыдущей публикации. Экзистенциальная катастрофа не только возможна, но и вероятна», — сказал Коэн. Энергетические ресурсы должны быть чем-то вроде пищи для искусственного интеллекта, и он будет использовать всю доступную энергию, чтобы обеспечить безопасность своего компьютера. Ну, проигрыш в этой игре, конечно, был бы фатальным. Самое досадное, что предотвратить это мы смогли, только полностью запретив искусственный интеллект. Коэн считает это столкновение людей и машин необратимым, потому что мы живем в мире ограниченных ресурсов, где конкуренция за эти ресурсы будет неизбежна. «В мире с ограниченными ресурсами неизбежна конкуренция за эти ресурсы. И если вы соревнуетесь с чем-то, что может перехитрить вас на каждом шагу, то не стоит рассчитывать на победу», — сказал Коэн. Несколько ученых обеспокоены бурным развитием ИИ, о похожем сценарии говорит и гипотеза Синглтона. Она говорит, что в конце концов они будут доминирующим типом машин на Земле. Вопрос в том, когда это произойдет? В настоящее время мы не знаем ответа на этот вопрос. Но многие эксперты считают, что ИИ может выйти из-под нашего контроля, когда достигнет человеческого разума. Но это может произойти уже в ближайшие несколько десятилетий. Аналогичное мнение высказал Эйдан Меллер, создатель ультрареалистичного робота Ай-Да, заявивший, что мы уже слишком далеко, чтобы остановить развитие искусственного интеллекта. Он сказал, что через три года нас ждут кардинальные изменения в использовании этой технологии. Далее он подчеркнул, что необходимо притормозить или ввести глобальные правила, чтобы потом ИИ не вышел из-под контроля. Не пропустите ВИКТОРИНУ: Космическая гонка. Кто был первым — США или Советский Союз? Роботы уже сегодня убивают Сегодня люди вкладывают в руки роботов смертоносное оружие. США, Турция и Россия уже производят беспилотные боевые самолеты и танки, способные уничтожить любой объект с невероятной точностью без вмешательства человека. Хотя сегодня эти машины заменяют деятельность человека, в будущем они могут обратить оружие против своих создателей. Билл Гейтс и Илон Маск, а также несколько известных ученых уже выразили свою озабоченность по поводу искусственного интеллекта. Понятно, что искусственный интеллект помогает нам в нашей повседневной деятельности, которая намного проще, но их развитие должно быть замедлено и гораздо более контролируемо. Но есть и большая часть людей, которые стоят по другую сторону баррикад. Например, основатель Facebook Марк Цукерберг относится к искусственному интеллекту только положительно. Она верит, что с ее помощью наш мир может стать лучше. Что ж, нам, простым смертным, наверное, ничего не остается, как наблюдать за ситуацией. Вам может быть интересно


Анонимный пользователь
Бесплатно сделаю вам сайт в свободное от работы время. Пишите на moskvichi-net@internet.ru
Анонимный пользователь
Продам сайт, посвященный истории СССР 20-х годов. Контент уникальный: https://cccp1921-29.ru Для контактов a.v.k.group@yandex.ru Chat image
Настроить
Авторизация
*
*
Регистрация
*
*
*
Пароль не введен
*
Генерация пароля
Закрыть