Как автоматизировать подбор ОТТЕНКА пантона в соответствии RGB-цвету?
Пантоны изначально не предназначены для печати растром или заливками, отличными от 100%. Весь их смысл состоит в том, чтобы печатать готовым плашечным цветом.
Если очень хочется, то поэкспериментировать можно, конечно, но это будет то ещё шаманство с непредсказуемым результатом. И тем более не алгоритмизируемым. Только метод цветопроб и ошибок. И даже если вы подберете нужное сочетание, оно будет действительно только для конкретной типографии, техпроцесса и бумаги. Стоит уйти в другую типографию - рецепт можно выкинуть.
RGB перевести в ближайший Pantone например, на этом сайте. Но это как-то несерьёзно. 
По-хорошему, возьмите пантоновские веера и отберите подходящие на натуре. При разном освещении – дневном, офисных энергосберегающих лампах, при свечах. На разных типах бумаги.
70% цвет, напечатанный на белой глянцевой бумаге и на матовой желтоватой выглядит по-разному. Покрытый лаком и непокрытый – тоже.