Совершенно секретная информация: они уже усовершенствовали ИИ. Все истории об ИИ невинно являются либо дезинформацией, либо дезинформацией. Они выпустили ИИ [более 50 лет назад] в широкую публику.

История начинается:

Некоторые ученые сейчас обеспокоены тем, что наступит день, когда сверхразумные программы ИИ начнут жить своей собственной жизнью. Уже есть программы искусственного интеллекта, которые выполняют изученные задачи, но программисты не понимают, как они пришли в это состояние.

От беспилотных автомобилей до компьютеров, которые могут побеждать в игровых шоу, у людей есть естественное любопытство и интерес к искусственному интеллекту (ИИ). Однако по мере того, как ученые продолжают делать машины более умными и умными, некоторые задаются вопросом: «Что произойдет, если компьютеры станут слишком умными для их собственного блага?» От «Матрицы» до «Терминатора» индустрия развлечений уже начала задумываться, не будут ли роботы будущего когда-нибудь угрожать человечеству. Новое исследование пришло к выводу, что не может быть никакого способа остановить рост машин. Международная команда утверждает, что люди не смогут помешать сверхискусственному интеллекту делать все, что они хотят.

Ученые из Центра людей и машин Института Макса Планка начали представлять себе, как будет выглядеть такая машина. Представьте себе программу ИИ, интеллект которой намного превосходит человеческий. Настолько много, что он мог учиться самостоятельно без нового программирования. Исследователи говорят, что если бы он был подключен к Интернету, у ИИ был бы доступ ко всем данным человечества и он мог бы даже взять под контроль другие машины по всему миру.

Авторы исследования спрашивают, что бы такой разум сделал со всей этой силой? Сработает ли это, чтобы сделать нашу жизнь лучше? Будет ли он направлять свои вычислительные мощности на решение таких проблем, как изменение климата? Или машина будет стремиться завладеть жизнями своих соседей-людей?

И компьютерные программисты, и философы изучали, есть ли способ уберечь сверхразумный ИИ от потенциального нападения на его создателей; обеспечение того, чтобы компьютеры будущего не причиняли вреда своим владельцам. Новое исследование, к сожалению, показывает, что поддерживать сверхразумный ИИ практически невозможно.

«Сверхразумная машина, управляющая миром, звучит как научная фантастика. Но уже есть машины, которые самостоятельно выполняют определенные важные задачи, а программисты полностью не понимают, как они этому научились. Поэтому возникает вопрос, может ли это в какой-то момент стать неконтролируемым и опасным для человечества », — говорит соавтор исследования Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин, в выпуске университета .

Международная команда изучила два разных способа управления искусственным интеллектом . Первый ограничил мощь сверхразума, заблокировав его и не давая подключаться к Интернету. Он также не мог подключаться к другим техническим устройствам во внешнем мире. Проблема с этим планом довольно очевидна; такой компьютер не смог бы действительно помочь людям.

Второй вариант был направлен на создание алгоритма, который дал бы суперкомпьютеру этические принципы. Мы надеемся, что это заставит ИИ учитывать интересы человечества.

В ходе исследования был создан теоретический алгоритм сдерживания, который не позволял ИИ причинять людям вред при любых обстоятельствах. В симуляциях ИИ перестанет функционировать, если исследователи сочтут его действия вредными. Авторы исследования говорят, что, несмотря на то, что ИИ не смог добиться мирового господства , в реальном мире это просто не сработает.

Человечество, учитывая его настоящий уровень, может существовать в двух состояних. Либо как ферма, принадлежащая кому-то. Либо как кибернетический организм-машина, управляемая кем-то. Это такая правда, которая многим может показаться горькой.

Читайте так же:

Поделиться в соц. сетях

0