Профессор Университета Луисвилля Роман Ямпольский — о том, что ИИ и есть «форма внеземного разума», которую нужно бояться:
Те опасения, о которых я говорю сейчас, — беспрецедентны. Мы создаём нечто, что можно сравнить с внеземным разумом. Людей пугает мысль, что на Землю прилетят инопланетяне. Но по сути, именно это мы и строим — форму «инопланетного интеллекта». Он не человек, он не биологического происхождения, у него нет человеческих мотивов — ни инстинктов размножения, ни интересов, ни эмоций. И при этом он гораздо лучший оптимизатор. Он уже превосходит нас во множестве областей.
Так что тот уровень тревоги, который вызывают разговоры об инопланетянах, стоило бы направить на реальную технологию, которую мы сейчас создаём. И главное здесь то, что мы эти системы не проектируем — мы их выращиваем.
Существует гипотеза масштабируемости: если добавить достаточно вычислительных мощностей и данных, система станет умнее и способнее. Последние 10 лет мы видим, что это действительно так. Если продлить эту тенденцию в будущее - производительность таких систем превзойдёт человеческую. Уже сегодня в ряде областей их «интеллект» оценивается выше человеческого IQ. И если развитие продолжится теми же темпами, вскоре все мы будем выглядеть идиотами по сравнению с ними.
