Предотвратить вероятную катастрофу сумеет новый метод, который представили ученые Оксфордского университета вместе с коллегами лаборатории DeepMind Google. Об этом информирует Business Insider ссылаясь на университет исследования машинного интеллекта, передает Громадское. Создав нейросеть, победившую чемпиона по игре в го, команда Google DeepMind тоже задумалась о вероятном восстании машин, и сейчас ученые собираются предотвратить робокалипсис.
Инструмент для отключения нужен, чтобы остановить работу системы искусственного интеллекта в режиме реального времени. Заключительный счет был разгромным. Однако дело в том, что в го практически никак нельзя перебрать все вероятные комбинации.
Это и многие иные достижения в вопросе развития ИИ породили вполне ясные сомнения. Работа, приуроченная к ей, представляет собой математический анализ, который описывает методы построения защиты. Размещенный документ описывает методы и пути решения, которые дозволят удостовериться в том, что «обучаемый агент» (читай ИИ) не сможет научиться игнорировать либо предотвращать влияние внешней среды либо человека-оператора.
Также «большая красная кнопка» должна гарантированно прервать текущую деятельность робота и максимально обезопасить его и окружающих при потенциально небезопасной ситуации, а кроме этого предотвратить совершение действий, которые могут привести к «необратимым последствиям». Все они акцентируют внимание на том, что он небывало быстро развивается.
Популярные Статьи
НБУ снизил курс гривни до 26,81 грн/долл
Наличный доллар держит курс выше 27 грн, обменки снизили маржу — на закупке североамериканская валюта поднялась в цене на 20 копеек.2998,2613 грн за 100 евро.Данные об официальном курсе, установленном..
Ниссан Qashqai обновился и получил автопилот
Кроме того, как утверждают в японской компании, профессионалы поработали над повышением качества отделочных материалов. Головная оптика осталась прошлой формы, однако секции светодиодных ходовых огней..
Инвесторы подадут против Фольксваген иски на 40 млрд евро
Инвесторы угрожают автомобилестроительному производителю Фольксваген иском на 40 млрд евро. Юристы оценивают утери собственных клиентов в 40 млрд евро.Как информирует РБК ссылаясь на газету The Telegr..
МИД РФ и «Газпром нефть» подписали соглашение о сотрудничестве
Министр подчеркнул, что приоритетом РФ является развитие «государственно-частного партнёрства в сфере энергетики».МИД РФ и «Газпром нефть» заключили соглашение о сотрудничестве. «Сегодня мы поставили ..