Ну, теоретически можно вертеть биты машинного кода до тех пор, пока на выходе не будет что-то разумное. Или пинать нейронную сеть до тех пор, пока не поумнеет. Переход количества в качество, или как его там.
а практически? Дэвид там делает очень интересные замечания на эту тему. вот например:
I do not highlight all these philosophical issues because I fear that AGIs will be invented before we have developed the philosophical sophistication to understand them and to integrate them into civilisation.