Суперинтеллект, эволюция и безопасность — Ивар ft. Роман Ямпольский | Мыслить как ученый

Искусственный интеллект развивается быстрее, чем общество успевает осмыслить последствия. То, что еще недавно казалось академической спекуляцией, сегодня обсуждается как реальный экзистенциальный риск. Гость выпуска — Роман Ямпольский, исследователь, который одним из первых ввел понятие AI safety и начал говорить о проблеме неконтролируемого суперинтеллекта задолго до массового интереса к ИИ. В новом эпизоде подкаста "Мыслить как ученый" основатель ПостНауки Ивар Максутов с гостем обсуждают, почему научное сообщество долго относилось к ИИ скептически, как изменились прогнозы по достижению AGI, и почему сегодня эксперты все чаще говорят не о пользе, а о выживании. Возможен ли контроль над системой, превосходящей человека? Почему оптимизм и пессимизм в AI-сообществе радикально расходятся? И что означает рост разрыва между человеческим и машинным интеллектом? Этот эпизод — попытка трезво поговорить о будущем, в котором интеллект перестает быть исключительно человеческим свойством, а технологический прогресс становится источником не только возможностей, но и угроз. Роман Ямпольский — доцент кафедры компьютерной инженерии и информатики в Университете Луисвилля (University of Louisville), США. Кандидат наук в области компьютерной инженерии, один из первых и наиболее авторитетных исследователей проблемы безопасности искусственного интеллекта. Ямпольский входит в 2% наиболее цитируемых исследователей мира по данным Scopus. Автор книги ИИ: Необъяснимый, Непредсказуемый, Неконтролируемый https://www.ozon.ru/product/iskusstvennyy-intellekt-neobyasnimyy-nepredskazuemyy-nekontroliruemyy-yampolskiy-roman-vladimirovich-2576488181/ 00:00 Искусственный интеллект и его возможности 05:58 Эволюция искусственного интеллекта 11:54 Будущее искусственного интеллекта и AGI 16:49 Человеческие эмоции и катастрофические события 20:32 Контроль над суперинтеллектом 27:14 Риски суперинтеллекта 30:54 Проблемы человеческой цивилизации и культуры 42:54 Определение границ AGI и HGI 49:20 Проблема определения интеллекта 51:49 Антропоморфизация и природа ИИ 53:39 Инвестирование в ИИ и его риски 56:35 Технологический прогресс и его последствия 59:59 Опасности неконтролируемых технологий 01:02:51 Роль человека в эволюции ИИ 01:06:01 Субъектность ИИ и свобода воли 01:14:32 Контроль над суперинтеллектом 01:26:37 Проблемы безопасности и неопределенности в AI 01:30:00 Безработица и будущее труда в эпоху AI 01:41:09 Роль человека в медицине и интеллектуальном труде 01:42:17 Будущее профессий в эпоху ИИ 01:46:00 Влияние ИИ на образование и карьеру 01:49:56 Структура компаний и роль ИИ 01:52:47 Оптимизм и пессимизм в отношении ИИ 01:54:41 Рекомендации и заключение Подписывайся на канал: https://www.youtube.com/@postnauka/join Подкаст «Мыслить как ученый» на других площадках: https://postnauka.org/link/hipolink ПостНаука — образовательная платформа для тех, кто считает научное мышление главным инструментом познания себя и мира. Узнать подробнее: https://postnauka.org/link/main_yt Курсы от создателей ПостНауки: https://postnauka.org/link/academy_yt Поддержать ПостНауку: https://postnauka.org/link/donate_yt Следить за новостями в Telegram: https://postnauka.org/link/telegram По вопросам партнерства — коммуникационное агентство ПостНаука.Specials: https://postnauka.org/link/letsdance_yt #подкаст #мышление #наука #философия #ИИ #суперинтеллект #искусственныйинтеллект #безопасность #AIsafety