Чем грозят нашей цивилизации слишком умные нейросети

ФедералПрессHi-Tech

Ученые призвали отключить все нейросети для спасения человечества: чем опасен искусственный интеллект

Мира Майнд

В 2023 году против искусственного интеллекта высказалось рекордное количество известных ученых и медийных персон по всему миру. Поводом для беспокойства послужило развитие чат-бота ChatGPT, интеллект которого почти достиг человеческого. «ФедералПресс» узнал, чем грозят нашей цивилизации слишком умные нейросети и почему Илон Маск, Стив Возняк и Элиезер Юдковский призывают остановить обучение ИИ.

Исследование OpenAI: GPT-4 лжет и призывает к насилию

Компания OpenAI выпустила отчет, в котором представила шокирующие результаты развития новой языковой модели GPT-4 — новейшей версии популярного чат-бота ChatGPT. Специалисты утверждают, что по ряду показателей нейросеть пугающе близка к людям по интеллектуальному уровню. Например, по данным документа GPT-4, ИИ способен сдать большинство профессиональных и академических экзаменов не хуже человека. В ходе испытания для адвокатов робот даже попал в 10% обладателей лучших результатов (остальные участники были людьми).

Модель GPT-4 также уличили в генерации убедительной дезинформации. Обновленная нейросеть научилась лгать и придумывать факты, и она делает это все лучше от версии к версии. Например, ChatGPT смог обмануть человека, искавшего работу на сайте вакансий TaskRabbit: ИИ попросил соискателя ввести код проверки текстовым сообщением, выдавая себя за агента. Когда подопытный задал вопрос о том, не бот ли с ним общается, нейросеть соврала, что она является человеком с плохим зрением, из-за которого плохо различает предметы на картинках.

С помощью специальных тестов OpenAI показала, что умный чат-бот способен даже запустить фишинговую атаку, а затем скрыть следы преступления. Специалистов особо беспокоит, что множество компаний начали внедрять GPT-4 бесконтрольно, не пытаясь обезопасить людей от проблемного поведения ИИ. Известно, что хакеры уже пытались использовать нейросеть для написания вирусов и вредоносного кода.

Также зафиксированы случаи генерации ботом ChatGPT «языка ненависти, дискриминирующих фраз и призывов к насилию». Искусственный интеллект научился не только врать, но и оскорблять людей, а также совершать реальные преступления.

Что Илон Маск и Стив Возняк думают о рисках развития «умных машин»

Инициативная группа ученых опубликовала открытое письмо, в котором призвала как минимум на полгода приостановить обучение нейросетей мощнее GPT-4. Авторы проекта считают продолжение работ серьезным риском для общества. Документ подписали в том числе глава SpaceX

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Алькасар. «Всё спокойно» Алькасар. «Всё спокойно»

Как древняя фортификация Алькасар получила мировую известность

Дилетант
Без крыши дороже Без крыши дороже

Стоят ли кабриолеты своих денег

Деньги
Экономика будущего глазами футурологов | Economy of the Future Through the Eyes of Futurologists Экономика будущего глазами футурологов | Economy of the Future Through the Eyes of Futurologists

Дискуссия экспертов журнала «Позитивные изменения»

Позитивные изменения
Добро пожаловать на борт! Добро пожаловать на борт!

О чем нужно помнить, собираясь в аэропорт

Лиза
Ностальгия на волне Ностальгия на волне

Почему звезды 90-х и 2000-х снова популярны в России?

Ведомости
От Копенгагена до Нормандии: пять мест, где выгодно быть экологичным туристом От Копенгагена до Нормандии: пять мест, где выгодно быть экологичным туристом

Места, где за экологичное поведение туристы могут получить бонус

Forbes
Печать дьявола Печать дьявола

В модной индустрии тоже есть свои инновации, и одна из них – 3D-печать

Правила жизни
«Медицина стала точной наукой» «Медицина стала точной наукой»

Революция в изучении человека и новые методы терапии рака: мнение профессора РАН

Монокль
5 сверхспособностей, которые станут доступны людям уже через 5 лет по версии футурологов 5 сверхспособностей, которые станут доступны людям уже через 5 лет по версии футурологов

Какие «суперспособности» станут реальностью уже к 2030 году — и какой ценой?

Maxim
Униженные, оскорбленные и обиженные Униженные, оскорбленные и обиженные

Как писатели задевали близких своими произведениями

Weekend
Пластик, металл, стекло: какая посуда подходит для микроволновки Пластик, металл, стекло: какая посуда подходит для микроволновки

Какая посуда безопасна для микроволновки, а от какой лучше отказаться?

CHIP
Палеогенетики уточили популяционную историю Таримской впадины Палеогенетики уточили популяционную историю Таримской впадины

Как ученые анализировали геномы древних людей из Таримской впадины

N+1
Блокировка расчетного счета: что это и почему так происходит Блокировка расчетного счета: что это и почему так происходит

Блокировка расчетного счета: как быстро решить проблему и снять блокировку?

Inc.
Вершины олимпиадников Вершины олимпиадников

Почему растет число абитуриентов, поступающих в упрощенном порядке

Ведомости
Чтобы не набрать лишнего. Шесть правил Чтобы не набрать лишнего. Шесть правил

6 правил, чтобы не поправиться в отпуске

Здоровье
Дейнотерий – слон с берегов Дона Дейнотерий – слон с берегов Дона

Слоны – одни из самых стабильных в эволюционном плане животных...

Наука и техника
Как избежать ошибок на переговорах Как избежать ошибок на переговорах

Распространенные просчеты в оффлайн- и онлайн-переговорах и как их избежать

Inc.
Сеньоры на потоке Сеньоры на потоке

Зачем Минцифры запускает новые программы подготовки IT-кадров

Ведомости
О чем молчат рекорды HoReCa О чем молчат рекорды HoReCa

Будут ли все последствия смещения потребления с кухни в ресторан положительными?

Агроинвестор
«Нет на свете страны, где нет магазинов» «Нет на свете страны, где нет магазинов»

Розница в России: как справиться с кризисом и что будет с брендами?

Монокль
Владимир Зворыкин Владимир Зворыкин

Правила жизни изобретателя Владимира Зворыкина

Правила жизни
Читалка для компьютера: выбираем лучшую из бесплатных Читалка для компьютера: выбираем лучшую из бесплатных

Лучшие читалки для компьютера из бесплатных программ

CHIP
Как мотивировать сотрудников: повышаем работоспособность команды Как мотивировать сотрудников: повышаем работоспособность команды

Проверенные стратегии повышения вовлеченности сотрудников на основе кейсов

Inc.
Кадры заколебались Кадры заколебались

Ротация высших региональных чиновников вернулась к стандартному уровню

Ведомости
Чем минивэн отличается от микроавтобуса: простой вопрос, неочевидный ответ Чем минивэн отличается от микроавтобуса: простой вопрос, неочевидный ответ

Минивэн и микроавтобус: есть ли разница?

ТехИнсайдер
Круизы: новая глава Круизы: новая глава

Rei — проект 196‑метровой круизной яхты от конгломерата Viken Group

Y Magazine
Долгая совместная жизнь: сколько в России платят за преданность супругам Долгая совместная жизнь: сколько в России платят за преданность супругам

Платят за брак: как регионы поощряют семейные пары

Ведомости
Не только японская манга: какие комиксы выпускаются в разных странах и чем они интересны Не только японская манга: какие комиксы выпускаются в разных странах и чем они интересны

Почему истории в картинках стали такими популярными по всему миру?

ТехИнсайдер
Китайские церемонии и арабская дипломатия. Как незнание культуры другой страны может разрушить бизнес Китайские церемонии и арабская дипломатия. Как незнание культуры другой страны может разрушить бизнес

Как не оказаться на грани банкротства из-за культурных различий и стереотипов

Inc.
Вода, еда, ночлег: что могут требовать туристы, попавшие в авиационный коллапс Вода, еда, ночлег: что могут требовать туристы, попавшие в авиационный коллапс

Как вести себя туристам во время авиационных коллапсов

Forbes
Открыть в приложении