Книга "Совместимость. Как контролировать искусственный интеллект" автора Рассела Стюарта затрагивает тему сверхчеловеческого искусственного интеллекта, который ставит под угрозу экономику, отношения между людьми и даже цивилизацию. Автор утверждает, что конфликт между людьми и машинами неизбежен, но его исход можно изменить.
В книге описывается, как люди уже освоили применение искусственного интеллекта в различных областях, от автономного оружия до управления нашими предпочтениями, и какие уроки можно извлечь из этого опыта. Автор предлагает новые принципы построения ИИ, чтобы гарантировать его скромность и альтруизм, приносящие пользу человеку, а не стремящиеся к своим собственным интересам.
Книга раскрывает значимость доступа к интеллекту, превосходящему человеческий, и предполагает, что подобное событие стало бы революцией в истории. Автор объясняет, как избежать возможного краха цивилизации, связанного со сверхчеловеческим искусственным интеллектом.
Введение концепции полезности и обсуждение математической теории человеческого поведения являются ключевыми моментами книги. Стремление к контролю над действиями роботов и определение их роли на основе законов и норм поднимают важные этические вопросы.
В целом, книга предлагает подробное исследование проблем и вызовов, связанных с развитием и использованием искусственного интеллекта, а также пути к его безопасному и эффективному внедрению в общество.
Другие книги автора