Как преобразовать 3-х цветную RGB модель в 8 цветов?
Переводите из RGB в HSV
https://ru.wikipedia.org/wiki/HSV_(цветовая_модель...
Вы эту 8-цветную палитру сами придумали или подсмотрели в каком-нибудь дурном учебнике по информатике?
Однозначного перевода тут не может быть уже хотя бы потому, что оранжевый = красный + желтый и т.п. А розовый = уполовиненный красный.
Цветовые модели предполагают, что каждый цвет незаменим или хотя бы однозначно вычисляется при переводе. У вас же получаются 5-мерные поверхности в 8-мерных координатах, каждая из точек которых соответствует одному и тому же RGB-значению.