Та наука, к которой вы пытаетесь подойти, если не ошибаюсь, называется теоретическая лингвистика. К сожалению энтузиастов, которые бы объединили ее и математику в лице алгоритмике не так много. В качестве классного чтива по теме предлагаю Турчина.