В отдельных станках АОИ (настольных, не линейных) есть режим работы, называющейся golden board. Суть его в том, что сканируется изображение эталонной платы, проверенной человеком. Это изображение сохраняется в памяти и далее оператор сравнивает два изображения: эталонной платы и каждой последующей. Работа утомительна тем, что изображение на экране постоянно скачет между картинками (мечта эпилептика

) Да, можно настроить частоту переключений, яркость, контраст и т.д., задать конкретные участки, требующие повышенного внимания (и, если необходимо, отключить просмотр остальных участков), но всё равно - утомляемость очень высока.
И удивило меня то, что разработчики этого пыточного станка - англичане.
Оптика же для проверки плат, если я не ошибаюсь, сравнивает Гербера с результатом, высчитывает зазоры и прочие параметры. Может ли она смотреть дефекты маски - ну должна, по идее.
Я не знаю специфики Вашего производства, но, может, стоит сменить поставщика плат? Или таки спецприёмка?
Невозможное я делаю сразу, а невероятное - чуток подумав.