Так что должен уметь делать ИИ, что бы его точно уже утвердили как реальный ИИ?
ИИ - это не аналог мышлению и поведению человека, а всего лишь область математики (теории алгоритмов и смежных), где нельзя получить выводы/результаты, опираясь лишь на одни детерменированные (четко обозначенные) алгоритмы. Та же песня с "нейронными сетями". От нейронов - одно название, а так - конечные автоматы.
Людям, далеким от математики и статистики результаты кажутся чудесными (ну, иногда они такие и есть), но все они  - следствие из должным образом обработанного массива известных данных.
ИИ, может, и будет создан более -менее похожим на человека в каком-то разрезе задач, когда заработает что-то фроде фотонного компа, но даже сегодня простые, на первый вгляд, проблемы, компьютеры решить не могут, например:
1) Deep Blue - после шумихи, где неофициально или официально компу помогал гроссмейстер комп разобрали и он теперь "на выставке", что мешало-то оставить в игре? 
Уж в шахматах - то при всем многообразии комбинаций, все равно все зарегулировано. Но современные мощности не позволяют обсчитать "все-все", на это по-прежнему нужны десятки лет, потому для выбора верного решения компу и нужен "интеллект",а  его нет.
2) задача релеватности - уж сколько у Гугла ресурсов, а качество сайтов по-прежнему проверяет отряд индусов. И никто, кроме человека, не знает, что он хочет видеть по "ключ" или "пелотка блин шапка военная".
да и если касались Machine Learning, все вот эти "переобучение - недообучение"- это всего лишь мера участия человека в принятии решения "оно или не оно", сам комп при всех алгоритмах сделать этого не может по определению
Когда машина предложит варианты себя объективно улучшить - она сможет развиваться.