Я вижу, Вы не очень-то испугались. ;)
Позвольте доразъяснить: не превосходящий человека, а превосходящий его сперва во много раз, на следующем этапе - в тысячи раз, а на третьем - в миллионы.
Причем время перехода на каждый следующий этап может исчисляться днями или даже часами.

Развитие ИИ с ускорением, по экспоненте. Каждый новый уровень развития ускоряет прохождение следующего. Объемы саморазвития, увеличения возможностей в единицу времени таковы, что их можно считать технологическим взрывом.

Это ситуация, которую люди не смогут контролировать. Безумный технологический хаос.
И это не фантастика полоумного писателя, а прогнозы вполне трезвых, понимающих тему, людей.