Вы подключили декодер DTS/DD к компьютеру по SP/DIF, но в VLC пропала опция A/52 по SP/DIF?
Сначала, проверьте, что SP/DIF является устройстом вывода по умолчанию в Windows 7. Зайдите в его свойства. В поддерживаемых форматах, включите все доступные для вашего ресивера форматы, а не только тот, который вам больше нравится. Сохраните настройки и перезапустите VLC. В меню должна звука появится опция включения A/52 через S/PDIF.
Еще одна возможная причина – использование AAC кодека.
Кодек Mp4a не может быть передан напрямую в ресивер по sp/dif. Его нужно предварительно перекодировать, в чем может помочь AC3Filter, но VLC не поддерживает данный фильтр.