Главная проблема ИИ, которую никто не может решить

Как контролировать искусственный интеллект, который умнее нас? Почему ИИ может стать последним изобретением человечества? От умных роботов до галактических империй — как ИИ может изменить Вселенную. Разбираемся, почему сверхразумные цивилизации будут расти как бокалы шампанского, как они будут контролировать целые галактики, и останется ли в этом будущем место для людей. Разбираем самую большую угрозу нашего времени: сможем ли мы научить машины нашим ценностям до того, как они станут слишком умными для контроля?<br /><br /><br />Таймкоды для навигации по ролику:<br />00:00 - Системы глубокого обучения с подкреплением <br />03:06 - Последний бастион человеческого интеллекта (Ли Седоль vs DeepMind) <br />06:24 - Обучаем ИИ игре Breakout + Конференция по нейросетям "Навыки будущего" <br />09:18 - История умного коня Ганса<br />11:22 - Что значит быть "умным"?<br />14:36 - Крупнейшие неудачи внедрения ИИ<br />18:49 - Выживут только ИИ-любовники<br />20:53 - Когда появится суперинтеллект? Мнение Сэма Альмана <br />23:28 - Поиск определений понятий "интеллект" и "общий"<br />31:25 - Может ли сверхинтеллект хотеть производить скрепки?<br />33:19 - Первая технология, способная погубить жизнь<br />36:05 - А что думает ИИ про безопасность ИИ?<br />38:03 - Самый похотливый ИИ всех времен<br />42:13 - Проблема загрузки ценностей<br />42:45 - Истоки целей в природе<br />47:20 - Согласование целей ИИ с целями людей<br />51:24 - Выбор целей<br />55:48 - Будущая жизнь<br />58:20 - Информация как главный товар будущего