Запись звука с DialUp модема?
— годится ли software-модем из ноутбука?
software modem — это значит, что железа в нем почти нет. Все делает программа (драйвер). Но это совсем не означает, что модем может записывать звук.

— какие программы для этой задачи подходят лишь формально, а по факту не делают адекватно того, что от них хочешь (желательно регистрировать звонок от поднятия до опускания трубки)?
не все модемы имеют встроенный pickup сенсор. Soft-модемы его не имеют, естественно. Но даже, если они имеют такой сенсор, он очень часто глючит.

— погуглил навскидку — прочёл о том, что гораздо лучше для задачи подходят Voice-модемы, но не уловил из статей принципа, — что в плане функционала означает, что модем именно голосовой?
если модем отвечает OK в терминале на одну из двух команд (AT#CLS=8 или AT+FCLASS=8) — модем голосовой. Иначе — могут быть варианты, не хочу углубляться в ненужные детали.

— как лучше (реальнее) организовывается запись — программно через модем, или лучше искать модем с поддержкой вывода сигнала с линии на порт с мини-джеком 3.5мм, и заводить сигнал на микрофонный вход звуковой карты компьютера, и писать системный Mic-in результат?
через модем звук хуже, слышен щелчок в линии, когда модем «снимает трубку». Запись через звуковую карту без модема (через 3.5 мм мини-джек) лучше с точки зрения незаметности, но там есть сложности с определением начала и конца разговора, сложности с определением номера.
Есть еще очень неплохой вариант — модем IDC 6414 BXL+ (именно с плюсом) — он может снимать трубку без щелчка, на нагружая линию, и имеет много других плюшек. Для записи разговоров — самое то. Прекрасно работает с Modem Spy.

Собственно, по программам — рекомендую Modem Spy для записи с модема, или Sound Snooper для записи со звуковой карты.
Сталкивался с такой задачей когда-то. Вот что могу сказать:
 — все зависит от конкретного модема и может ли он передавать голосовой сигнал из линии в цифровом виде, и какие у него поддерживаемые кодеки. 
 — вполне может быть что модем из ноутбука такое не умеет
 — у меня был можем ZyXEL, у меня с ним работала прогамма Venta ZVoice, вполне может что и с вашим захочет работать. В любом случае — скачайте, посмотрите.
 — в общем смысле задача записи звука решается так: подается AT команда модему чтобы он начал кодировать сигнал из лигии и передавал его. Мы этот сигнал в своей программе считываем, в зависимости от кодека или сохраняем в файл, или перекодируем в нужным нам (например mp3). 
Я долго бился над тем как правильно записать этот сигнал от модема, потом в итоге бросил и решил проблему припаяв к модему выход и вход, которые вставлялись в LineIn и LineOut компьютера и в программе уже оставалось только после поднятия трубки записать сигнал с LineIn и воспроизводить то что нужно просто в LineOut. 
Вполне может быть что найдете микрофоны с поддержкой 3.5 джеком. если нет — это можно сделать самостоятельно. Я когда-то тоже думал что это страшно, а, погуглив, понял что все легко :)