Странный (идиотский) вопрос про контроллеры и измерения, Тестирование программ. Опции

[Tanya]

Вот после обнаружения ошибки в программе возник дурацкий(?) вопрос.
Упрощенная модель.
Пусть мы делаем прибор, например цифровой термометр с медным (платиновым...) датчиком.
Допустим, что используется некоторая аппроксимация (кусочно-линейная, полиномиальная...) не важно какая, важно, что контроллер (или что-либо еще...) вычисляет по программе.
Возникает вопрос - а может в какой-нибудь точке вычисления будут с ошибкой?
А может эта ошибка возникнет только на N-ном измерении.
А может она возникнет, если на входе будет некоторая последовательность?
А может она возникнет на контроллере из другой серии (фабрики)?
А может один из 10 контроллеров с глюком?
Вспомнилось, что вроде Пентиум какой-то был с арифметическим дефектом...
Еще миллион вариантов ошибок.
А если все это управляет чем-то дорогим (поезд, самолет, атомная станция)?
Или на основании этих измерений кого-то могут в тюрьму посадить (например, алкоголь в крови)?
Как тут жить? Будь прибор чисто аналоговым, понятно, как его калибровать и проверять. А тут?

Знаю, что имеет место специальная специальность по тестированию. Но это дорого и долго. Создают специальные программы по выявлению ошибок в программах. А если в программе тестирования ошибки?

Предупреждала, что вопрос идиотский...

[DRUID3]

Хорошее слово проскользнуло - дублирование! Это и есть основа всякой надежности. Важный объект? Жалко человеческие жизни (хотя, блин, кому их сейчас жалко ...)? Дорогое оборудование? Поставьте 3-и совершенно различные системы управления. Разное железо, разный софт написанный совершенно разными людьми, токо передаточная функция одинакова...Помните о воронке и снарядах???
P.S.: если мой разум не затуманило время, то что-то такое вспоминается, мол, в кибернетике есть теорема о получении сколь угодно надежной системы из компонентов с определенной (не бесконечной) надежностью... Если кто помнит - приведите. Сам на работе сижу (в субботу вечером то ) но очень хочу домой, так что лень "гуглить"...

[Gorby]

P.S.: если мой разум не затуманило время, то что-то такое вспоминается, мол, в кибернетике есть теорема о получении сколь угодно надежной системы из компонентов с определенной (не бесконечной) надежностью... Если кто помнит - приведите. Сам на работе сижу (в субботу вечером то ) но очень хочу домой, так что лень "гуглить"...

Извольте:
Клод Шеннон "Построение надежной системы из ненадежных элементов". Речь шла об электромеханических реле.

"Другой задачей, которой он (Шеннон) занимался совместно с Е.Ф. Муром (E.F. Moore), было повышение надежности релейных цепей путем ведения избыточного числа элементов (каждый из которых ненадежен). Эта задача, опять же, сводится к передаче информации по зашумленному каналу. "