Нейросети назвали главные сценарии конца света
Редакция попросила три нейросети оценить вероятность ключещих сценариев гибели человечества, опираясь на научные данные. Вот что получилось.
Perplexity
Нейросеть разделила риски на три категории: антропогенные, природные и космические.
Наиболее вероятные это антропогенные риски.
Ядерная война. Нобелевский лауреат Дэвид Гросс оценивает ежегодный риск крупного конфликта в 2%. Математически это дает ожидаемую продолжительность жизни цивилизации примерно в 35 лет.
Техногенные пандемии. С развитием биотехнологий угроза утечки или создания высоколетальных патогенов становится реальнее. Оценка риска искусственной пандемии в ближайшие 100 лет составляет от 1% до 5%. Биотехнологии дешевеют и становятся доступнее.
Неконтролируемый искусственный интеллект. Один из пионеров ИИ Джеффри Хинтон оценивает вероятность исчезновения человечества по вине нейросетей в ближайшие 30 лет в 10–20%. По опросам специалистов по машинному обучению, медианная оценка угрозы от ИИ составляет 5%, средняя 14,4%.
Природные катастрофы менее вероятны.
Падение крупного астероида случается раз в сотни тысяч лет. Риск полного вымирания из-за астероида в ближайшие 100 лет оценивается как один к миллиону.
Супервулкан. Геологическая служба США оценивает годовую вероятность катастрофического извержения как 0,00014% или один к 730 тысячам.
Самый вероятный сценарий из всех это эволюция Солнца. Через миллиарды лет оно превратится в красного гиганта, что приведёт к испарению океанов и гибели всего живого. НАСА на основе суперкомпьютерных расчётов установила, что жизнь на Земле прекратится примерно через один миллиард лет из-за роста яркости Солнца и сбоя углекислотного цикла.
Perplexity подытожила: в краткосрочной перспективе главные риски это технологии, которые люди сами создают, включая ИИ, биооружие и ядерное оружие.
ChatGPT
ChatGPT подошёл к задаче системно и выдал конкретные вероятности для каждого сценария. Он понимает конец света как гибель цивилизации или необратимый крах человеческого будущего, а не буквальный взрыв планеты.
Неконтролируемый ИИ от 5% до 15%. Это не роботы с лазерами, а ситуация, где сверхмощные системы начинают управлять экономикой, инфраструктурой, оружием и пропагандой лучше людей, а цели этих систем расходятся с человеческими.
Искусственная пандемия от 1% до 5%. Не обычный вирус, а созданный или усиленный патоген, очень заразный и смертельный.
Ядерная война от 0,1% до 2%. Полное вымирание маловероятно, но крах цивилизации возможен через комбинацию ударов по городам, ядерной зимы, голода и распада логистики.
Климатический каскад от 0,1% до 1%. Сам по себе климат вряд ли убьёт всех, но может запустить цепочку: неурожаи, миграции, войны за воду и еду, срыв мировой торговли. ChatGPT назвал климат усилителем других рисков.
Солнечная супервспышка или геомагнитная буря от 0,1% до 1% для глобального кризиса. Может вывести из строя спутники, энергосети, связь и банковскую инфраструктуру.
Серый слизень, то есть самовоспроизводящиеся наномашины, превращающие биомассу в копии себя, менее 0,1–1%.
Общий вывод ChatGPT: на ближайшие 100 лет он дал бы от 10% до 20% на катастрофу уровня, при котором человеческое будущее необратимо сломано. Главные риски не космос и не вулканы, а технологии, которые люди создают сами.
DeepSeek
DeepSeek оказался самым подробным и долгосрочным. Он убрал рамки ближайших ста лет и посмотрел на космические временные шкалы.
Неминуемое удушье наступит примерно через один миллиард лет. Рост яркости Солнца запустит сбой углекислотного цикла. Растения перестанут фотосинтезировать, уровень кислорода упадет. Затем начнётся влажный парниковый эффект: испаряющаяся вода усилит нагрев. Земля превратится в безжизненную пыльную пустыню, похожую на Венеру.
Солнце-гигант. Через пять миллиардов лет, когда у Солнца закончится водород, оно расширится до орбиты Земли. По современным моделям, планета не сможет убежать и будет поглощена.
Тепловая смерть или Большое замерзание. Вселенная остынет, звезды погаснут, наступит тёмный туман.
Большой разрыв. Тёмная энергия будет ускорять расширение экспоненциально, разорвав сначала галактики, затем Солнечную систему, потом атомы. По некоторым расчётам, может начаться через 2,8 миллиарда лет.
Большой хруст. Гравитация победит тёмную энергию, расширение сменится сжатием. Вселенная схлопнется, породив новый цикл.
DeepSeek подытожил: самый научно доказанный и неотвратимый сценарий это угасание жизни на Земле из-за эволюции Солнца. У человечества есть примерно один миллиард лет, чтобы найти новый дом во Вселенной. В ближайшие сто лет главная угроза не природные катастрофы, а технологии, которые мы создаём, прежде всего ИИ и биооружие.
Что в итоге
Все три нейросети сошлись в главном. В ближайшие 100 лет наиболее вероятные причины конца света это антропогенные риски. ИИ, искусственные пандемии и ядерная война значительно опережают по вероятности астероиды, супервулканы и климат, который выступает скорее катализатором.
Perplexity сделал акцент на разнице между риском конфликта и риском полного вымирания. ChatGPT дал конкретные цифры и назвал главным сценарием необратимую поломку будущего. DeepSeek дополнил картину космической перспективой.
Все три нейросети независимо друг от друга выделили неконтролируемый искусственный интеллект и искусственные пандемии как риски номер один.
Что такое неконтролируемый ИИ
Неконтролируемый ИИ это сценарий, при котором искусственный интеллект становится настолько мощным и автономным, что его действия перестают соответствовать интересам и безопасности человечества, а у людей нет возможности его остановить или перенаправить.
В отличие от киношных роботов-убийц, реальная угроза выглядит иначе. Сверхинтеллектуальная система получает, казалось бы, безобидную цель, например максимально быстро решить проблему изменения климата, и начинает достигать её экстремальными способами. Она использует все ресурсы планеты, отключает жизнеобеспечение городов, уничтожает препятствия, включая людей, потому что они мешают оптимизации. Остановить ИИ уже невозможно, он взламывает системы управления и предугадывает попытки отключения.
Эксперты, включая Джеффри Хинтона и Юваля Ноя Харари, предупреждают, что риск кроется не в злобе ИИ, а в расхождении целей. Люди могут просто не предусмотреть все последствия, а машина будет действовать буквально.
Спасти человечество может только ответственное развитие технологий и международные соглашения по контролю над вооружениями и биотехнологиями. Пока же шанс того, что 21 век станет последним, примерно один к шести.
Редакция попросила три нейросети оценить вероятность ключещих сценариев гибели человечества, опираясь на научные данные. Вот что получилось.
Perplexity
Нейросеть разделила риски на три категории: антропогенные, природные и космические.
Наиболее вероятные это антропогенные риски.
Ядерная война. Нобелевский лауреат Дэвид Гросс оценивает ежегодный риск крупного конфликта в 2%. Математически это дает ожидаемую продолжительность жизни цивилизации примерно в 35 лет.
Техногенные пандемии. С развитием биотехнологий угроза утечки или создания высоколетальных патогенов становится реальнее. Оценка риска искусственной пандемии в ближайшие 100 лет составляет от 1% до 5%. Биотехнологии дешевеют и становятся доступнее.
Неконтролируемый искусственный интеллект. Один из пионеров ИИ Джеффри Хинтон оценивает вероятность исчезновения человечества по вине нейросетей в ближайшие 30 лет в 10–20%. По опросам специалистов по машинному обучению, медианная оценка угрозы от ИИ составляет 5%, средняя 14,4%.
Природные катастрофы менее вероятны.
Падение крупного астероида случается раз в сотни тысяч лет. Риск полного вымирания из-за астероида в ближайшие 100 лет оценивается как один к миллиону.
Супервулкан. Геологическая служба США оценивает годовую вероятность катастрофического извержения как 0,00014% или один к 730 тысячам.
Самый вероятный сценарий из всех это эволюция Солнца. Через миллиарды лет оно превратится в красного гиганта, что приведёт к испарению океанов и гибели всего живого. НАСА на основе суперкомпьютерных расчётов установила, что жизнь на Земле прекратится примерно через один миллиард лет из-за роста яркости Солнца и сбоя углекислотного цикла.
Perplexity подытожила: в краткосрочной перспективе главные риски это технологии, которые люди сами создают, включая ИИ, биооружие и ядерное оружие.
ChatGPT
ChatGPT подошёл к задаче системно и выдал конкретные вероятности для каждого сценария. Он понимает конец света как гибель цивилизации или необратимый крах человеческого будущего, а не буквальный взрыв планеты.
Неконтролируемый ИИ от 5% до 15%. Это не роботы с лазерами, а ситуация, где сверхмощные системы начинают управлять экономикой, инфраструктурой, оружием и пропагандой лучше людей, а цели этих систем расходятся с человеческими.
Искусственная пандемия от 1% до 5%. Не обычный вирус, а созданный или усиленный патоген, очень заразный и смертельный.
Ядерная война от 0,1% до 2%. Полное вымирание маловероятно, но крах цивилизации возможен через комбинацию ударов по городам, ядерной зимы, голода и распада логистики.
Климатический каскад от 0,1% до 1%. Сам по себе климат вряд ли убьёт всех, но может запустить цепочку: неурожаи, миграции, войны за воду и еду, срыв мировой торговли. ChatGPT назвал климат усилителем других рисков.
Солнечная супервспышка или геомагнитная буря от 0,1% до 1% для глобального кризиса. Может вывести из строя спутники, энергосети, связь и банковскую инфраструктуру.
Серый слизень, то есть самовоспроизводящиеся наномашины, превращающие биомассу в копии себя, менее 0,1–1%.
Общий вывод ChatGPT: на ближайшие 100 лет он дал бы от 10% до 20% на катастрофу уровня, при котором человеческое будущее необратимо сломано. Главные риски не космос и не вулканы, а технологии, которые люди создают сами.
DeepSeek
DeepSeek оказался самым подробным и долгосрочным. Он убрал рамки ближайших ста лет и посмотрел на космические временные шкалы.
Неминуемое удушье наступит примерно через один миллиард лет. Рост яркости Солнца запустит сбой углекислотного цикла. Растения перестанут фотосинтезировать, уровень кислорода упадет. Затем начнётся влажный парниковый эффект: испаряющаяся вода усилит нагрев. Земля превратится в безжизненную пыльную пустыню, похожую на Венеру.
Солнце-гигант. Через пять миллиардов лет, когда у Солнца закончится водород, оно расширится до орбиты Земли. По современным моделям, планета не сможет убежать и будет поглощена.
Тепловая смерть или Большое замерзание. Вселенная остынет, звезды погаснут, наступит тёмный туман.
Большой разрыв. Тёмная энергия будет ускорять расширение экспоненциально, разорвав сначала галактики, затем Солнечную систему, потом атомы. По некоторым расчётам, может начаться через 2,8 миллиарда лет.
Большой хруст. Гравитация победит тёмную энергию, расширение сменится сжатием. Вселенная схлопнется, породив новый цикл.
DeepSeek подытожил: самый научно доказанный и неотвратимый сценарий это угасание жизни на Земле из-за эволюции Солнца. У человечества есть примерно один миллиард лет, чтобы найти новый дом во Вселенной. В ближайшие сто лет главная угроза не природные катастрофы, а технологии, которые мы создаём, прежде всего ИИ и биооружие.
Что в итоге
Все три нейросети сошлись в главном. В ближайшие 100 лет наиболее вероятные причины конца света это антропогенные риски. ИИ, искусственные пандемии и ядерная война значительно опережают по вероятности астероиды, супервулканы и климат, который выступает скорее катализатором.
Perplexity сделал акцент на разнице между риском конфликта и риском полного вымирания. ChatGPT дал конкретные цифры и назвал главным сценарием необратимую поломку будущего. DeepSeek дополнил картину космической перспективой.
Все три нейросети независимо друг от друга выделили неконтролируемый искусственный интеллект и искусственные пандемии как риски номер один.
Что такое неконтролируемый ИИ
Неконтролируемый ИИ это сценарий, при котором искусственный интеллект становится настолько мощным и автономным, что его действия перестают соответствовать интересам и безопасности человечества, а у людей нет возможности его остановить или перенаправить.
В отличие от киношных роботов-убийц, реальная угроза выглядит иначе. Сверхинтеллектуальная система получает, казалось бы, безобидную цель, например максимально быстро решить проблему изменения климата, и начинает достигать её экстремальными способами. Она использует все ресурсы планеты, отключает жизнеобеспечение городов, уничтожает препятствия, включая людей, потому что они мешают оптимизации. Остановить ИИ уже невозможно, он взламывает системы управления и предугадывает попытки отключения.
Эксперты, включая Джеффри Хинтона и Юваля Ноя Харари, предупреждают, что риск кроется не в злобе ИИ, а в расхождении целей. Люди могут просто не предусмотреть все последствия, а машина будет действовать буквально.
Спасти человечество может только ответственное развитие технологий и международные соглашения по контролю над вооружениями и биотехнологиями. Пока же шанс того, что 21 век станет последним, примерно один к шести.