Зачем нужно знать эффективность\сложность алгоритма?
Есть два алгоритма для одной задачи:
- один проходит по всем элементам один раз и что-то делает, выполняя поставленную задачу O(N)
- другой проходит по всем элементам для каждого элемента: O(N^2)

При количестве элементов N=10, в цикле в первом случае будет 10 операций, во втором случае 100 (казалось бы, в 10 раз больше всего, как и элементнов)
Но при увеличении до N=1000 в первом случае 1000 проходов, во втором уже 1 000 000 ! Видите как сильно растет разница.

Даже при небольших значениях N это может быть важно, если каждая операция долгая/тяжелая и даже 2-3х кратное увеличение может быть проблемой.
Выше всё верно написали.
Вот тут есть наглядно про сложность, а также про сложность многих классических алгоритмов. Для того чтобы понять и въехать - самое то.