Контроль и исправление ошибок это один - Oshibs.top - большая энциклопедия ошибок и их решений

Эта статья — о работе с ошибками в данных при их хранении или передаче. О контроле фактических ошибок в текстах см. Проверка фактов; о проверке знаний и навыков при обучении см. Педагогическое тестирование; о методе обучения нейросети см. Метод коррекции ошибки.

Контроль ошибок — комплекс методов обнаружения и исправления ошибок в данных при их записи и воспроизведении или передаче по линиям связи.

Контроль целостности данных и исправление ошибок — важные задачи на многих уровнях работы с информацией (в частности, физическом, канальном, транспортном уровнях сетевой модели OSI) в связи с тем, что в процессе хранения данных и передачи информации по сетям связи неизбежно возникают ошибки. Различные области применения контроля ошибок диктуют различные требования к используемым стратегиям и кодам.

В системах связи возможны несколько стратегий борьбы с ошибками:

обнаружение ошибок в блоках данных и автоматический запрос повторной передачи^[⇨] повреждённых блоков — этот подход применяется, в основном, на канальном и транспортном уровнях;
обнаружение ошибок в блоках данных и отбрасывание повреждённых блоков — такой подход иногда применяется в системах потокового мультимедиа, где важна задержка передачи и нет времени на повторную передачу;
упреждающая коррекция ошибок добавляет к передаваемой информации такие дополнительные данные, которые позволяют исправить ошибки без дополнительного запроса.

В контроле ошибок, как правило, используется помехоустойчивое кодирование — кодирование данных при записи или передаче и декодирование при считывании или получении при помощи корректирующих кодов, которые и позволяют обнаружить и, возможно, исправить ошибки в данных. Алгоритмы помехоустойчивого кодирования в различных приложениях могут быть реализованы как программно, так и аппаратно.

Современное развитие корректирующих кодов приписывают Ричарду Хэммингу с 1947 года^[1]. Описание кода Хэмминга появилось в статье Клода Шеннона «Математическая теория связи»^[2] и было обобщено Марселем Голеем^[3].

Стратегии исправления ошибок

Упреждающая коррекция ошибок

Упреждающая коррекция ошибок (также прямая коррекция ошибок, англ. Forward Error Correction, FEC) — техника помехоустойчивого кодирования и декодирования, позволяющая исправлять ошибки методом упреждения. Применяется для исправления сбоев и ошибок при передаче данных путём передачи избыточной служебной информации, на основе которой может быть восстановлено первоначальное содержание. На практике широко используется в сетях передачи данных, телекоммуникационных технологиях. Коды, обеспечивающие прямую коррекцию ошибок, требуют введения большей избыточности в передаваемые данные, чем коды, которые только обнаруживают ошибки.

Например, в спутниковом телевидении при передаче цифрового сигнала с FEC 7/8 передаётся восемь бит информации: 7 бит полезной информации и 1 контрольный бит^[4]; в DVB-S используется всего 5 видов: 1/2, 2/3, 3/4 (наиболее популярен), 5/6 и 7/8. При прочих равных условиях, можно утверждать, что чем ниже значение FEC, тем меньше пакетов допустимо потерять, и, следовательно, выше требуемое качество сигнала.

Техника прямой коррекции ошибок широко применяется в различных устройствах хранения данных — жёстких дисках, флеш-памяти, оперативной памяти. В частности, в серверных приложениях применяется ECC-память — оперативная память, способная распознавать и исправлять спонтанно возникшие ошибки.

Автоматический запрос повторной передачи

Системы с автоматическим запросом повторной передачи (англ. Automatic Repeat Request, ARQ) основаны на технологии обнаружения ошибок. Распространены следующие методы автоматического запроса:

Идея запроса ARQ с остановками (англ. stop-and-wait ARQ) заключается в том, что передатчик ожидает от приемника подтверждения успешного приема предыдущего блока данных перед тем, как начать передачу следующего. В случае, если блок данных был принят с ошибкой, приемник передает отрицательное подтверждение (negative acknowledgement, NAK), и передатчик повторяет передачу блока. Данный метод подходит для полудуплексного канала связи. Его недостатком является низкая скорость из-за высоких накладных расходов на ожидание.

Для метода непрерывного запроса ARQ с возвратом (continuous ARQ with pullback) необходим полнодуплексный канал. Передача данных от передатчика к приемнику производится одновременно. В случае ошибки передача возобновляется, начиная с ошибочного блока (то есть передается ошибочный блок и все последующие).

При использовании метода непрерывного запроса ARQ с выборочным повторении (continuous ARQ with selective repeat) осуществляется передача только ошибочно принятых блоков данных.

Сетевое кодирование

Раздел теории информации, изучающий вопрос оптимизации передачи данных по сети с использованием техник изменения пакетов данных на промежуточных узлах называют сетевым кодированием. Для объяснения принципов сетевого кодирования используют пример сети «бабочка», предложенной в первой работе по сетевому кодированию «Network information flow»^[5]. В отличие от статического сетевого кодирования, когда получателю известны все манипуляции, производимые с пакетом, также рассматривается вопрос о случайном сетевом кодировании, когда данная информация неизвестна. Авторство первых работ по данной тематике принадлежит Кёттеру, Кшишангу и Силве^[6]. Также данный подход называют сетевым кодированием со случайными коэффициентами — когда коэффициенты, под которыми начальные пакеты, передаваемые источником, войдут в результирующие пакеты, принимаемые получателем, с неизвестными коэффициентами, которые могут зависеть от текущей структуры сети и даже от случайных решений, принимаемых на промежуточных узлах. Для неслучайного сетевого кодирования можно использовать стандартные способы защиты от помех и искажений, используемых для простой передачи информации по сети.

Энергетический выигрыш

При передаче информации по каналу связи вероятность ошибки зависит от отношения сигнал/шум на входе демодулятора, таким образом, при постоянном уровне шума решающее значение имеет мощность передатчика. В системах спутниковой и мобильной, а также других типов связи остро стоит вопрос экономии энергии. Кроме того, в определённых системах связи (например, телефонной) неограниченно повышать мощность сигнала не дают технические ограничения.

Поскольку помехоустойчивое кодирование позволяет исправлять ошибки, при его применении мощность передатчика можно снизить, оставляя скорость передачи информации неизменной. Энергетический выигрыш определяется как разница отношений с/ш при наличии и отсутствии кодирования.

Примечания

↑ Thompson, Thomas M. (1983), From Error-Correcting Codes through Sphere Packings to Simple Groups, The Carus Mathematical Monographs (#21), The Mathematical Association of America, с. vii, ISBN 0-88385-023-0
↑ Shannon, C.E. (1948), A Mathematical Theory of Communication, Bell System Technical Journal (p. 418) Т. 27 (3): 379–423, PMID 9230594, DOI 10.1002/j.1538-7305.1948.tb01338.x
↑ Golay, Marcel J. E. (1949), Notes on Digital Coding, Proc.I.R.E. (I.E.E.E.) (p. 657) Т. 37
↑ Understanding Digital Television: An Introduction to Dvb Systems With … — Lars-Ingemar Lundström — Google Книги. Дата обращения: 19 мая 2020. Архивировано 11 ноября 2021 года.
↑ Ahlswede, R.; Ning Cai; Li, S.-Y.R.; Yeung, R.W., «Network information flow», Information Theory, IEEE Transactions on, vol.46, no.4, pp.1204-1216, Jul 2000
↑
Статьи:
- Koetter R., Kschischang F.R. Coding for errors and erasures in random network coding// IEEE International Symposium on Information Theory. Proc.ISIT-07.-2007.- P. 791—795.
- Silva D., Kschischang F.R. Using rank-metric codes for error correction in random network coding // IEEE International Symposium on Information Theory. Proc. ISIT-07. — 2007.
- Koetter R., Kschischang F.R. Coding for errors and erasures in random network coding // IEEE Transactions on Information Theory. — 2008- V. IT-54, N.8. — P. 3579-3591.
- Silva D., Kschischang F.R., Koetter R. A Rank-Metric Approach to Error Control in Random Network Coding // IEEE Transactions on Information Theory.- 2008- V. IT-54, N. 9.- P.3951-3967.

Литература

Блейхут Р. Теория и практика кодов, контролирующих ошибки = Theory and Practice of Error Control Codes. — М.: Мир, 1986. — 576 с.
Мак-Вильямс Ф. Дж., Слоэн Н. Дж. А. Теория кодов, исправляющих ошибки. М.: Радио и связь, 1979.
Морелос-Сарагоса Р. Искусство помехоустойчивого кодирования. Методы, алгоритмы, применение / пер. с англ. В. Б. Афанасьева. — М.: Техносфера, 2006. — 320 с. — (Мир связи). — 2000 экз. — ISBN 5-94836-035-0.
Clark, George C., Jr., and J. Bibb Cain. Error-Correction Coding for Digital Communications. New York: Plenum Press, 1981. ISBN 0-306-40615-2.
Lin, Shu, and Daniel J. Costello, Jr. «Error Control Coding: Fundamentals and Applications». Englewood Cliffs, N.J.: Prentice-Hall, 1983. ISBN 0-13-283796-X.
Mackenzie, Dana. «Communication speed nears terminal velocity». New Scientist 187.2507 (9 июля 2005): 38-41. ISSN 0262-4079.
Wicker, Stephen B. Error Control Systems for Digital Communication and Storage. Englewood Cliffs, N.J.: Prentice-Hall, 1995. ISBN 0-13-200809-2.
Wilson, Stephen G. Digital Modulation and Coding, Englewood Cliffs, N.J.: Prentice-Hall, 1996. ISBN 0-13-210071-1.

Ссылки

Charles Wang, Dean Sklar, and Diana Johnson. Forward Error-Correction Coding. The Aerospace Corporation. — Volume 3, Number 1 (Winter 2001/2002). Дата обращения: 24 мая 2009. Архивировано из оригинала 20 февраля 2005 года. (англ.)
Charles Wang, Dean Sklar, and Diana Johnson. How Forward Error-Correcting Codes Work (недоступная ссылка — история). The Aerospace Corporation. Дата обращения: 24 мая 2009. Архивировано 25 февраля 2012 года. (англ.)
Morelos-Zaragoza, Robert The Error Correcting Codes (ECC) Page (недоступная ссылка — история) (2004). Дата обращения: 24 мая 2009. Архивировано 25 февраля 2012 года. (англ.)

Эта страница в последний раз была отредактирована 17 октября 2022 в 07:46.

Как только страница обновилась в Википедии она обновляется в Вики 2.
Обычно почти сразу, изредка в течении часа.

Источник

Контроль данных и исправление ошибок.

Дальнейший
процесс преобразования информации из
документа сбора состоит в перенесении
кодов на машинный носитель — перфокарты
— и ввод данных в память ЭВМ.

Важной
составной частью подготовки данных к
анализу является всесторонний
контроль данных и исправление найденных
ошибок. Источники ошибок кроются во
всех предыдущих этапах исследования
от сбора информации до ее ввода в ЭВМ.

Практически
очень трудно исправить все ошибки в
данных, особенно если это исследование
достаточно обширно. Исследователь
должен решить, какого рода проверки и
исправления наиболее важны для него,
а какими ошибками можно пренебречь.

Процедура
исправления данных состоит из трех
этапов: выявления ошибок, нахождения
истинных величин данных или кодов в
исходных документах — анкетах, бланках,
исправления данных.

Среди
множества ошибок, требующих к себе
соответствующего внимания, назовем
две. Появление кодов, отсутствующих в
инструкции по кодированию анкеты.
Например, для оценки удовлетворенности

работой
была использована шкала с градациями
1,2, 3,4,5,6, 7 и дополнительно коды — 0
(отсутствие ответа), 9 (респондент не
работает и вопрос к нему не относится).
Тогда числа 8,10,11 и т. д. будут ложными
кодами, которые необходимо исправить.

Другая
ошибка — появление кодов, выходящих за
рамки логической структуры вопросника.
Например, для вышеприведенного примера
ясно, что на вопрос должны отвечать лишь
работающие, и этот факт должен быть
проверен при контроле данных. Иногда
этот тип контроля называют проверкой
данных на логическую
согласованность.

После
корректировки данных полезно подсчитать
частотные распределения для всех
переменных в исследовании. Это позволит
выявить не только ложные коды, но и
получить первые сведения о выборке.

Построение новых переменных.

Перед
анализом данных и в процессе их анализа
часть вопросов анкеты (переменные,
признаки в терминологии этапа работы
с данными) в исходной формулировке
подвергается преобразованиям. Тип этих
преобразований определяется гипотезами
исследования, программой анализа
полученной информацией и конкретными
свойствами эмпирических данных,
получаемых в результате их сбора.

Преобразования
переменных могут быть очень простыми,
когда,, например, для открытого вопроса
о возрасте вводят определенную группировку
возрастов или шкалу с семью градациями
свертывают в трехбалльную, и очень
сложными, когда на нескольких переменных
строится новая — индекс например, на
основе вопросов о различных статьях
денежных доходов семьи и ее составе
подсчитывается индекс — средний
доход, приходящийся на одного члена
этой семьи).

Для
построения индексов могут применяться
всевозможные статистические методы
— факторный анализ, кластерный,
регрессионный а т. д., различные
логически и теоретически обоснованные
эвристические процедуры преобразования,

Подготовка
эмпирических данных, полученных в ходе
социологического исследования, к
анализу — достаточно трудоемкий, и
длительный процесс. Следующий этап
работы с данными — собственно их анализ.

Соседние файлы в папке workbook.rtf

Источник

Обнаружение ошибок в технике связи — действие, направленное на контроль целостности данных при записи/воспроизведении информации или при её передаче по линиям связи. Исправление ошибок (коррекция ошибок) — процедура восстановления информации после чтения её из устройства хранения или канала связи.

Для обнаружения ошибок используют коды обнаружения ошибок, для исправления — корректирующие коды (коды, исправляющие ошибки, коды с коррекцией ошибок, помехоустойчивые коды).

Содержание

1 Способы борьбы с ошибками
2 Коды обнаружения и исправления ошибок
- 2.1 Блоковые коды
  - 2.1.1 Линейные коды общего вида
    - 2.1.1.1 Минимальное расстояние и корректирующая способность
    - 2.1.1.2 Коды Хемминга
    - 2.1.1.3 Общий метод декодирования линейных кодов
  - 2.1.2 Линейные циклические коды
    - 2.1.2.1 Порождающий (генераторный) полином
    - 2.1.2.2 Коды CRC
    - 2.1.2.3 Коды БЧХ
    - 2.1.2.4 Коды коррекции ошибок Рида — Соломона
  - 2.1.3 Преимущества и недостатки блоковых кодов
- 2.2 Свёрточные коды
  - 2.2.1 Преимущества и недостатки свёрточных кодов
- 2.3 Каскадное кодирование. Итеративное декодирование
- 2.4 Сетевое кодирование
- 2.5 Оценка эффективности кодов
  - 2.5.1 Граница Хемминга и совершенные коды
  - 2.5.2 Энергетический выигрыш
- 2.6 Применение кодов, исправляющих ошибки
3 Автоматический запрос повторной передачи
- 3.1 Запрос ARQ с остановками (stop-and-wait ARQ)
- 3.2 Непрерывный запрос ARQ с возвратом (continuous ARQ with pullback)
- 3.3 Непрерывный запрос ARQ с выборочным повторением (continuous ARQ with selective repeat)
4 См. также
5 Литература
6 Ссылки

Способы борьбы с ошибками

В процессе хранения данных и передачи информации по сетям связи неизбежно возникают ошибки. Контроль целостности данных и исправление ошибок — важные задачи на многих уровнях работы с информацией (в частности, физическом, канальном, транспортном уровнях сетевой модели OSI).

В системах связи возможны несколько стратегий борьбы с ошибками:

обнаружение ошибок в блоках данных и автоматический запрос повторной передачи повреждённых блоков — этот подход применяется, в основном, на канальном и транспортном уровнях;
обнаружение ошибок в блоках данных и отбрасывание повреждённых блоков — такой подход иногда применяется в системах потокового мультимедиа, где важна задержка передачи и нет времени на повторную передачу;
исправление ошибок (англ. forward error correction) применяется на физическом уровне.

Коды обнаружения и исправления ошибок

Корректирующие коды — коды, служащие для обнаружения или исправления ошибок, возникающих при передаче информации под влиянием помех, а также при её хранении.

Для этого при записи (передаче) в полезные данные добавляют специальным образом структурированную избыточную информацию (контрольное число), а при чтении (приёме) её используют для того, чтобы обнаружить или исправить ошибки. Естественно, что число ошибок, которое можно исправить, ограничено и зависит от конкретного применяемого кода.

С кодами, исправляющими ошибки, тесно связаны коды обнаружения ошибок. В отличие от первых, последние могут только установить факт наличия ошибки в переданных данных, но не исправить её.

В действительности, используемые коды обнаружения ошибок принадлежат к тем же классам кодов, что и коды, исправляющие ошибки. Фактически любой код, исправляющий ошибки, может быть также использован для обнаружения ошибок (при этом он будет способен обнаружить большее число ошибок, чем был способен исправить).

По способу работы с данными коды, исправляющие ошибки, делятся на блоковые, делящие информацию на фрагменты постоянной длины и обрабатывающие каждый из них в отдельности, и свёрточные, работающие с данными как с непрерывным потоком.

Блоковые коды

Пусть кодируемая информация делится на фрагменты длиной бит, которые преобразуются в кодовые слова длиной бит. Тогда соответствующий блоковый код обычно обозначают (n,;k) . При этом число $R=frac{k}{n}$ называется скоростью кода.

Если исходные бит код оставляет неизменными, и добавляет n-k проверочных, такой код называется систематическим, иначе несистематическим.

Задать блоковый код можно по-разному, в том числе таблицей, где каждой совокупности из информационных бит сопоставляется бит кодового слова. Однако хороший код должен удовлетворять как минимум следующим критериям:

способность исправлять как можно большее число ошибок,
как можно меньшая избыточность,
простота кодирования и декодирования.

Нетрудно видеть, что приведённые требования противоречат друг другу. Именно поэтому существует большое количество кодов, каждый из которых пригоден для своего круга задач.

Практически все используемые коды являются линейными. Это связано с тем, что нелинейные коды значительно сложнее исследовать, и для них трудно обеспечить приемлемую лёгкость кодирования и декодирования.

Линейные коды общего вида

Линейный блоковый код — такой код, что множество его кодовых слов образует -мерное линейное подпространство (назовём его ) в -мерном линейном пространстве, изоморфное пространству -битных векторов.

Это значит, что операция кодирования соответствует умножению исходного -битного вектора на невырожденную матрицу , называемую порождающей матрицей.

Пусть $C^{perp}$ — ортогональное подпространство по отношению к , а — матрица, задающая базис этого подпространства. Тогда для любого вектора справедливо:

$overrightarrow{v}H^T=overrightarrow{0}.$

Минимальное расстояние и корректирующая способность

Расстоянием Хемминга (метрикой Хемминга) между двумя кодовыми словами и называется количество отличных бит на соответствующих позициях:

$d_H(overrightarrow{u},;overrightarrow{v})=sum_s{|u^{(s)}-v^{(s)}|}$ .

Минимальное расстояние Хемминга $d_min=min_{une v}d_H(overrightarrow{u},;overrightarrow{v})$ является важной характеристикой линейного блокового кода. Она показывает, насколько «далеко» расположены коды друг от друга. Она определяет другую, не менее важную характеристику — корректирующую способность:

$t=leftlfloorfrac{d_min-1}{2}rightrfloor$ .

Корректирующая способность определяет, сколько ошибок передачи кода (типа ) можно гарантированно исправить. То есть вокруг каждого кодового слова имеем -окрестность A_t , которая состоит из всех возможных вариантов передачи кодового слова с числом ошибок () не более . Никакие две окрестности двух любых кодовых слов не пересекаются друг с другом, так как расстояние между кодовыми словами (то есть центрами этих окрестностей) всегда больше двух их радиусов .

Таким образом, получив искажённую кодовую комбинацию из A_t , декодер принимает решение, что исходной была кодовая комбинация , исправляя тем самым не более ошибок.

Поясним на примере. Предположим, что есть два кодовых слова и , расстояние Хемминга между ними равно 3. Если было передано слово , и канал внёс ошибку в одном бите, она может быть исправлена, так как даже в этом случае принятое слово ближе к кодовому слову , чем к любому другому, и, в частности, к . Но если каналом были внесены ошибки в двух битах (в которых отличалось от ), то результат ошибочной передачи окажется ближе к , чем , и декодер примет решение, что передавалось слово .

Коды Хемминга

Коды Хемминга — простейшие линейные коды с минимальным расстоянием 3, то есть способные исправить одну ошибку. Код Хемминга может быть представлен в таком виде, что синдром

$overrightarrow{s}=overrightarrow{r}H^T$ , где

— принятый вектор, будет равен номеру позиции, в которой произошла ошибка. Это свойство позволяет сделать декодирование очень простым.

Общий метод декодирования линейных кодов

Любой код (в том числе нелинейный) можно декодировать с помощью обычной таблицы, где каждому значению принятого слова $overrightarrow{r}_i$ соответствует наиболее вероятное переданное слово $overrightarrow{u}_i$ . Однако данный метод требует применения огромных таблиц уже для кодовых слов сравнительно небольшой длины.

Для линейных кодов этот метод можно существенно упростить. При этом для каждого принятого вектора $overrightarrow{r}_i$ вычисляется синдром $overrightarrow{s}_i=overrightarrow{r}_i H^T$ . Поскольку $overrightarrow{r}_i=overrightarrow{v}_i+overrightarrow{e}_i$ , где $overrightarrow{v}_i$ — кодовое слово, а $overrightarrow{e}_i$ — вектор ошибки, то $overrightarrow{s}_i=overrightarrow{e}_i H^T$ . Затем с помощью таблицы по синдрому определяется вектор ошибки, с помощью которого определяется переданное кодовое слово. При этом таблица получается гораздо меньше, чем при использовании предыдущего метода.

Линейные циклические коды

Несмотря на то, что декодирование линейных кодов значительно проще декодирования большинства нелинейных, для большинства кодов этот процесс всё ещё достаточно сложен. Циклические коды, кроме более простого декодирования, обладают и другими важными свойствами.

Циклическим кодом является линейный код, обладающий следующим свойством: если является кодовым словом, то его циклическая перестановка также является кодовым словом.

Слова циклического кода удобно представлять в виде многочленов. Например, кодовое слово $overrightarrow{v}=(v_0,;v_1,;ldots,;v_{n-1})$ представляется в виде полинома $v(x)=v_0+v_1 x+ldots+v_{n-1}x^{n-1}$ . При этом циклический сдвиг кодового слова эквивалентен умножению многочлена на по модулю x^n-1 .

В дальнейшем, если не указано иное, мы будем считать, что циклический код является двоичным, то есть могут принимать значения 0 или 1.

Порождающий (генераторный) полином

Можно показать, что все кодовые слова конкретного циклического кода кратны определённому порождающему полиному g(x) . Порождающий полином является делителем x^n-1 .

С помощью порождающего полинома осуществляется кодирование циклическим кодом. В частности:

Коды CRC

Коды CRC (англ. cyclic redundancy check — циклическая избыточная проверка) являются систематическими кодами, предназначенными не для исправления ошибок, а для их обнаружения. Они используют способ систематического кодирования, изложенный выше: «контрольная сумма» вычисляется путем деления $x^{n-k}u(x)$ на g(x) . Ввиду того, что исправление ошибок не требуется, проверка правильности передачи может производиться точно так же.

Таким образом, вид полинома g(x) задаёт конкретный код CRC. Примеры наиболее популярных полиномов:

название кода	степень	полином
CRC-12	12	$x^{12}+x^{11}+x^{3}+x^{2}+x+1$
CRC-16	16	$x^{16}+x^{15}+x^{2}+1$
CRC-CCITT	16	$x^{16}+x^{12}+x^{5}+1$
CRC-32	32	$x^{32}+x^{26}+x^{23}+x^{22}+x^{16}+x^{12}+x^{11}+x^{10}+x^{8}+x^{7}+x^{5}+x^{4}+x^{2}+x+1$

Коды БЧХ

Коды Боуза — Чоудхури — Хоквингема (БЧХ) являются подклассом циклических кодов. Их отличительное свойство — возможность построения кода БЧХ с минимальным расстоянием не меньше заданного. Это важно, потому что, вообще говоря, определение минимального расстояния кода есть очень сложная задача.

Математически полинома g(x) на множители в поле Галуа.

Коды коррекции ошибок Рида — Соломона

Коды Рида — Соломона — недвоичные циклические коды, позволяющие исправлять ошибки в блоках данных. Элементами кодового вектора являются не биты, а группы битов (блоки). Очень распространены коды Рида-Соломона, работающие с байтами (октетами).

Математически коды Рида — Соломона являются кодами БЧХ.

Преимущества и недостатки блоковых кодов

Хотя блоковые коды, как правило, хорошо справляются с редкими, но большими пачками ошибок, их эффективность при частых, но небольших ошибках (например, в канале с АБГШ), менее высока.

Свёрточные коды

Свёрточные коды, в отличие от блоковых, не делят информацию на фрагменты и работают с ней как со сплошным потоком данных.

Свёрточные коды, как правило, порождаются дискретной линейной инвариантной во времени системой. Поэтому, в отличие от большинства блоковых кодов, свёрточное кодирование — очень простая операция, чего нельзя сказать о декодировании.

Кодирование свёрточным кодом производится с помощью регистра сдвига, отводы от которого суммируются по модулю два. Таких сумм может быть две (чаще всего) или больше.

Декодирование свёрточных кодов, как правило, производится по алгоритму Витерби, который пытается восстановить переданную последовательность согласно критерию максимального правдоподобия.

Преимущества и недостатки свёрточных кодов

Свёрточные коды эффективно работают в канале с белым шумом, но плохо справляются с пакетами ошибок. Более того, если декодер ошибается, на его выходе всегда возникает пакет ошибок.

Каскадное кодирование. Итеративное декодирование

Преимущества разных способов кодирования можно объединить, применив каскадное кодирование. При этом информация сначала кодируется одним кодом, а затем другим, в результате получается код-произведение.

Например, популярной является следующая конструкция: данные кодируются кодом Рида-Соломона, затем перемежаются (при этом символы, расположенные близко, помещаются далеко друг от друга) и кодируются свёрточным кодом. На приёмнике сначала декодируется свёрточный код, затем осуществляется обратное перемежение (при этом пачки ошибок на выходе свёрточного декодера попадают в разные кодовые слова кода Рида — Соломона), и затем осуществляется декодирование кода Рида — Соломона.

Некоторые коды-произведения специально сконструированы для итеративного декодирования, при котором декодирование осуществляется в несколько проходов, каждый из которых использует информацию от предыдущего. Это позволяет добиться большой эффективности, однако декодирование требует больших ресурсов. К таким кодам относят турбо-коды и LDPC-коды (коды Галлагера).

Сетевое кодирование

Оценка эффективности кодов

Эффективность кодов определяется количеством ошибок, которые тот может исправить, количеством избыточной информации, добавление которой требуется, а также сложностью реализации кодирования и декодирования (как аппаратной, так и в виде программы для ЭВМ).

Граница Хемминга и совершенные коды

Пусть имеется двоичный блоковый (n,k) код с корректирующей способностью . Тогда справедливо неравенство (называемое границей Хемминга):

$sum_{i=0}^t {nchoose i}leqslant 2^{n-k}.$

Коды, удовлетворяющие этой границе с равенством, называются совершенными. К совершенным кодам относятся, например, коды Хемминга. Часто применяемые на практике коды с большой корректирующей способностью (такие, как коды Рида — Соломона) не являются совершенными.

Энергетический выигрыш

Применение кодов, исправляющих ошибки

Коды, исправляющие ошибки, применяются:

в системах цифровой связи, в том числе: спутниковой, радиорелейной, сотовой, передаче данных по телефонным каналам.
в системах хранения информации, в том числе магнитных и оптических.

Коды, обнаруживающие ошибки, применяются в сетевых протоколах различных уровней.

Автоматический запрос повторной передачи

Системы с автоматическим запросом повторной передачи (ARQ — Automatic Repeat reQuest) основаны на технологии обнаружения ошибок. Распространены следующие методы автоматического запроса:

Запрос ARQ с остановками (stop-and-wait ARQ)

Идея этого метода заключается в том, что передатчик ожидает от приемника подтверждения успешного приема предыдущего блока данных перед тем, как начать передачу следующего. В случае, если блок данных был принят с ошибкой, приемник передает отрицательное подтверждение (negative acknowledgement, NAK), и передатчик повторяет передачу блока. Данный метод подходит для полудуплексного канала связи. Его недостатком является низкая скорость из-за высоких накладных расходов на ожидание.

Непрерывный запрос ARQ с возвратом (continuous ARQ with pullback)

Для этого метода необходим полнодуплексный канал. Передача данных от передатчика к приемнику производится одновременно. В случае ошибки передача возобновляется, начиная с ошибочного блока (то есть передается ошибочный блок и все последующие).

Непрерывный запрос ARQ с выборочным повторением (continuous ARQ with selective repeat)

При этом подходе осуществляется передача только ошибочно принятых блоков данных.

См. также

Цифровая связь
Код ответа (Код причины завершения)
Линейный код
Циклический код
Код Боуза — Чоудхури — Хоквингема
Код Рида — Соломона
LDPC
Свёрточный код
Турбо-код

Литература

Блейхут Р. Теория и практика кодов, контролирующих ошибки = Theory and Practice of Error Control Codes. — М.: Мир, 1986. — 576 с.
Мак-Вильямс Ф. Дж., Слоэн Н. Дж. А. Теория кодов, исправляющих ошибки. М.: Радио и связь, 1979.
Морелос-Сарагоса Р. Искусство помехоустойчивого кодирования. Методы, алгоритмы, применение / пер. с англ. В. Б. Афанасьева. — М.: Техносфера, 2006. — 320 с. — (Мир связи). — 2000 экз. — ISBN 5-94836-035-0

Ссылки

Помехоустойчивое кодирование (11 ноября 2001). — реферат по проблеме кодирования сообщений с исправлением ошибок. Архивировано из первоисточника 25 августа 2011. Проверено 25 декабря 2006.

Источник

37 Принципы организации контроля функционирования ЭВМ.
Классификация методов контроля. Контроль оперативной памяти.

В производимых ЭВМ
преобразованиях информации очень важна их достоверность, для этого используются
различные методы контроля функционирования ЭВМ. Наличие системного контроля
закладывается на этапе проектирования ЭВМ. Системный контроль тесно взаимодействует
с системами диагностики. Вне зависимости от того, как
именно реализуется контроль и исправление ошибок, в основе их всегда лежит
введение некоторого рода избыточности.

Аппаратный:

Наличие аппаратного контроля
означает, что операционный контроль осуществляется непосредственно во время
процесса выполнения операций. При введении аппаратного контроля вводится
избыточность разрядов (пространственная).

Должен обеспечивать:

1)
контроль данных

2)
контроль команд – имеется дескриптор выполняемости, если он взведен – это
команда, иначе – данные.

3)
контроль адресов – не выходит ли адрес за пределы сегмента (при
сегментно-страничной организации)

Оперативный контроль
– это контроль, который производится постоянно:

—
сквозной (контролируются все устройства)

—
локальный (контролируется конкретное устройство)

Встроенный контроль
– контроль, при котором в систему встраиваются специальные датчики, которые
контролируют электрические параметры. Чаще всего используются в источниках
питания.

Тестовый –
различного рода тестирование:

—
контролирующий – тестовые программы с заранее известным результатом

—
диагностирующий – тестовые программы, выявляющие место сбоя

Программно-логический
контроль:

Контроль основан на формировании
результата выполнения операции 2-мя различными независимыми путями и дальнейшем
их сравнении. Необходимо выявлять как случайные ошибки, так и ошибки вызванные
отказами.

Можно выделить следующие методы:

— метод программного счета. Одна
и та же программа прокручивается несколько раз, зачастую достаточно двух
прогонов. Плохо определяются ошибки вызванные отказами.

— метод обратного счета. Сначала
решается прямая задача, затем обратная, при этом возникает необходимость писать
2 программы, сравнивать результаты прямого и обратного счета с учетом
погрешностей. Выгоден только при небольших размерах обратного алгоритма.

— решение задачи по двум
алгоритмам: более и менее точному. Недостатки: необходимость написания двух
программ; собственно, поиск второго, более простого, алгоритма.

— метод контрольных точек. В этом
случае в программу вводится процедура для выполнения контроля. Этот метод
реагирует не на случайные ошибки, а на отказ.

2-ой и 3-ий методы
взаимодополняют друг друга.

Для реализации контроля
вводится избыточность:

1)
временная – увеличение времени выполнения операций для контроля.

2)
пространственная – увеличение разрядности данных для контроля.

Обнаружение и исправление
ошибок

При работе с полупроводниковой
памятью не исключено возникновение различного рода отказов и сбоев. Причиной отказов
могут быть производственные дефекты, повреждение микросхем или их
физический износ. Проявляются отказы в том, что в отдельных разрядах одной или
нескольких ячеек постоянно считывается 0 или 1, вне зависимости от реально
записанной туда информации. Сбой- это случайное событие, выражающееся в
неверном считывании или записи информации в отдельных разрядах одной или
нескольких ячеек, не связанное с дефектами микросхемы. Как отказы, так и сбои
крайне нежелательны, поэтому в большинстве систем основной памяти содержатся
схемы, служащие для обнаружения и исправления ошибок.

Рассмотрим принципы контроля,
связанные с введением избыточных данных.

На
рисунке показано, каким образом осуществляются обнаружение и исправление
ошибок. Перед записью М-разрядных данных в память производится их обработка,
обозначенная на схеме функцией «f», в результате которой формируется добавочный К-разрядный
код. В память заносятся как данные, так и этот вычисленный код, то есть (М+К)-разрядная
информация. При чтении информации повторно формируется К-разрядный код, который
сравнивается с аналогичным кодом, считанным из ячейки. Сравнение приводит к
одному из трех результатов:

— Не обнаружено ни одной ошибки. Извлеченные данные
подаются на выход памяти.

— Обнаружена
исправимая ошибка. Биты данных и
добавочного кода подаются на схему коррекции. После исправления ошибки в данных
они поступают на выход памяти.

— Обнаружена неисправимая ошибка. Выдается сообщение о неисправимой ошибке.

Коды, используемые для подобных операций, называют корректирующими
кодами или кодами с исправлением ошибок.

В основе корректирующих кодов лежит следующая идея. Для контроля
двоичного информационного кода длиной М бит добавим к ней К дополнительных
контрольных разрядов. В этом случае из возможных N = 2^М«^К
комбинаций интерес представляют только L = 2^м последовательностей, которые называют:
разрешенными. Оставшиеся N — L последовательностей
назовем запрещенными. Если при обработке (записи в память, считывании
или передаче) разрешенной кодовой последовательности произойдут ошибки и
возникнет одна из запрещенных последовательностей, то тем самым эти ошибки
обнаруживаются. Если же ошибки превратят одну разрешенную последовательность в
другую, то такие ошибки не могут быть обнаружены. Благодаря свойствам
контрольных разрядов, характерным для конкретных методов контроля, в некоторых
случаях возможно определить не только наличие, но и местоположение ошибки, а
также произвести её коррекцию.

Простейший вид корректирующего кода основан на добавлении к
каждому байту информации одного бита паритета. Бит паритета — это
дополнительный бит, значение которого устанавливается таким, чтобы суммарное
число единиц в данных, с учетом этого дополнительного разряда, было четным
(или нечетным). При чтении из памяти вычисляется бит паритета для считанных
информационных битов, результат сравнивается с битом паритета, вычисленным при
записи и хранившимся в памяти. Метод позволяет обнаружить ошибку, если
исказилось нечетное количество битов, при четном числе ошибок метод
неработоспособен. Данный метод позволяет только обнаруживать ошибки, причём
местоположение ошибки остаётся неизвестным.

Существует более совершенный метод, основанный на
использовании битов паритета. При его использовании биты данных представляются
в виде матрицы, к каждой строке и столбцу которой добавляется бит паритета. Для
64-разрядных данных этот подход иллюстрирует таблица 1:

Недостаток рассмотренного приема в том, что он требует
большого числа дополнительных разрядов. Более эффективным представляется код,
предложенный Ричардом Хэммингом и носящий его имя (код Хэмминга).

В качестве иллюстрации использования данной концепции,
приведём код, обнаруживающий и исправляющий однобитовые ошибки в 8-разрядных
словах.

Сначала определим требуемую длину корректирующего кода. В
соответствии с рис., на вход схемы сравнения поступают два К-разрядных
значения. Сравнение производится путем поразрядной операции «исключающее ИЛИ»
(сложение по модулю 2) над входными кодами. Результатом является так называемое
слово синдрома. В зависимости от того, было ли совпадение входных кодов
или нет, соответствующий бит синдрома будет равен 0 или 1.

Слово синдрома состоит из К разрядов, то есть его
возможные значения лежат в диапазоне от 0 до 2^К — 1. Значение
0 соответствует случаю, когда ошибки не обнаружено, остальные 2^К
— 1 случая свидетельствуют о наличии ошибки и указывают на ее
местоположение.

Поскольку ошибка может возникнуть в любом из М битов
данных или К контрольных битов, мы должны иметь 2^к — 1 > М
+ К. Это выражение позволяет определить число битов, необходимое
для исправления одиночной ошибки в М-разрядных данных. В нашем примере,
для 8-разрядных слов требуется четыре корректирующих разряда.

Для удобства будем формировать четырехразрядный
синдром со следующими характеристиками:

— Если синдром содержит все нули, значит, не обнаружено ни
одной ошибки.

— Если синдром содержит единственную единицу в одном из
разрядов, это означает, что выявлена ошибка в одном из четырех корректирующих
разрядов и никакой коррекции не требуется.

— Если в синдроме в единичное состояние
установлены несколько битов, то численное значение синдрома соответствует
позиции ошибки в данных, для исправления которой необходимо инвертировать бит
в этой позиции (нумерация с единицы!).

Для
поддержания этих свойств под контрольные разряды отводятся те биты, чьи
позиционные номера представляют собой степень числа 2 (табл. 2).
Отдельный контрольный разряд отвечает за определенные биты данных. Так,
разрядная позиция п контролируется теми битами Р_i,
которые делают справедливым соотношение = п. Например, разряд данных с позиционным номером
7₁₀ (0111₂) контролируется битами 4, 2 и 1 (7 = 4 + 2 +
1), а разряд с номером 10₁₀ (1010₂) — битами 8 и 2 (10 =
8 + 2).

По мере развития систем В/ВЫВ их функции
усложняются. Главная цель такого усложнения — максимальное высвобождение ЦП от
управления процессами ввода/вывода. Некоторые пути решения этой задачи уже были
рассмотрены. Следующими шагами в преодолении проблемы могут быть:

1.
Расширение возможностей МВБ и предоставление ему прав процессора со
специализированным набором команд, ориентированных на операции ввода/вывода. ЦП
дает указание такому процессору В/ВЫВ выполнить хранящуюся в памяти ВМ
программу ввода/вывода. Процессор В/ВЫВ извлекает и исполняет команды этой
программы без участия центрального процессора и прерывает ЦП только после
завершения всей программы ввода/вывода.

2. Рассмотренному в пункте 1 процессору ввода/вывода придается
собственная локальная память, при этом возможно управление множеством устройств
В/ВЫВ с минимальным привлечением ЦП.

В первом случае МВВ называют каналом
ввода/вывода (КВВ). а во втором – процессором ввода/вывода. В
принципе различие между каналом и процессором ввода/вывода достаточно условно,
поэтому в дальнейшем будем пользоваться термином «канал».

Концепция системы ввода/вывода с КВВ
характерна для больших универсальных вычислительных машин (мэйнфреймов), где
проблема эффективной организации В/ВЫВ и максимального высвобождения
центрального процессора в пользу его основной функции стоит наиболее остро.

В ВМ с каналами ввода/вывода центральный
процессор практически не участвует в непосредственном управлении внешними
устройствами, делегируя эту задачу специализированному процессору, входящему в
состав КВВ. Все функции ЦП сводятся к запуску и остановке операций в КВВ, а
также проверке состоят канала и подключенных к нему ВУ. Для этих целей ЦП
использует лишь несколько (от 4 до 7) команд ввода/вывода. Например, в IBM 360 таких команд
четыре:

■ «Начать ввод/вывод»;

■ «Остановить ввод/выводу;

■ «Проверить ввод/вывода;

■ «Проверить канал».

КВВ реализует операции В/ВЫВ путем выполнения
так называемой канальной программы. Канальные программы для каждого ВУ,
с которым предполагается обмен информацией, описывают нужную последовательность
операций ввода/вывода и хранятся в основной памяти ВМ. Роль команд в канальных
программах выполняют управляющие слова канала (УСК), структура которых
отличается от структуры обычной машинной команды. Типовое УСК содержит:

■ код операции, определяющий для
КВВ и ВУ тип операции: «Записать» (вывод информации из ОП в ВУ), «Прочитать»
(ввод информации из ВУ в ОП), «Управление» (перемещение головок НМД, магнитной
ленты и т. п.);

■ указатели — дополнительные предписания,
задающие более сложную последовательность операций В/ВЫВ, например при вводе
пропускать отдельные записи или наоборот — с помощью одной команды вводить
«разбросанный» по ОП массив как единый;

■ адрес данных, указывающий
область памяти, используемую в операции ввода/ вывода;

■ счетчик данных, хранящий
значение длины передаваемого блока данных.

Кроме того, в УСК может содержаться
идентификатор ВУ и информация о его уровне приоритета, указания по действиям,
которые должны быть произведены при возникновении ошибок и т. п.

Центральный процессор инициирует ввод/вывод
путем инструктирования канала о необходимости выполнить канальную программу,
находящуюся в ОП, и указания начального адреса этой программы в памяти ВМ. КВВ
следует этим указаниям и управляет пересылкой данных. Отметим, что пересылка
информации каналом ведется в режиме прямого доступа к памяти. ВУ
взаимодействуют с каналом, получая от него приказы. Таким образом, в ВМ с КВВ
управление вводом/выводом строится иерархическим образом. В операциях ввода/вывода
участвуют три типа устройств:

■ процессор (первый уровень управления);

■ канал ввода/вывода (второй уровень);

■ внешнее устройство (третий уровень).

Каждому типу устройств соответствует свой вид
управляющей информации:

■ процессору — команды ввода/вывода;

■ каналу — управляющие слова канала;

■ периферийному устройству — приказы.

Структура ВМ с канальной системой ввода/вывода
показана на рис. 8.12.

Обмен информацией между КВВ и основной памятью
осуществляется посредством системной шины ВМ. ВУ подключаются к каналу не
непосредственно, а через блоки управления внешними устройствами (БУВУ). БУВУ
принимает от канала приказы по управлению внешним устройством (чтение, запись,
перемещение носителя или магнитной головки и т.п.) и преобразует их в сигналы
управления, свойственные данному типу ВУ. Обычно один БУВУ может обслуживать
несколько однотипных ВУ, но для подключения быстродействующих внешних устройств
Часто применяются индивидуальные блоки, управления. В свою очередь, некоторые
ВУ могут подключаться одновременно к нескольким БУВУ, Это позволяет
воспользоваться свободным трактом другого БУВУ при занятости данного БУВУ
обслуживанием одного из подключенных к нему ПУ. Физически БУВУ может быть
самостоятельным устройством или интегрирован с ВУ или каналом.

Обмен информацией между БУВУ и КВВ
обеспечивается так называемыми канальными трактами. Обычно каждое БУВУ
связано с одним из канальных трактов, но возможно также подключение блока
управления сразу к нескольким тракам, что дает возможность избежать нежелательных
задержек при занятости одного из них.

В пределах канала ввода/вывода считается, что
каждое ВУ подключено к своему подканалу. Подканалы имеют свои уникальные
логические номера, с помощью которых канальная программа адресуется к
конкретному ВУ. Физически подканал реализуется в виде участка памяти, в котором
хранятся параметры операции ввода/вывода,
выполняемой данным ВУ: текущие значения адреса и счетчика данных, код и
указатели операции ввода/вывода, адрес следующего УСК и др. Для хранения этих параметров
обычно используется локальная память канала.

Обмен информацией между ВУ и ОП, как уже
упоминалось, реализуется в режиме прямого доступа к памяти, при этом для
взаимодействия ЦП и канала задействованы сигналы «Запрос ПДП» и «Подтверждение
ПДП».

Чтобы известить ЦП об окончании текущей
канальной программы или об ошибках, возникших при ее выполнении, КВВ выдает в
ЦП сигнал «Запрос прерывания». В свою очередь, ЦП может привлечь внимание
канала сигналом «Внимание».

Способ организации взаимодействия ВУ с каналом
определяется соотношением быстродействия ОП и ВУ. По этому признаку ВУ образуют
две группы: быстродействующие (накопители на магнитных дисках (НМД), накопители
на магнитных лептах (НМЛ)) со скоростью приема и выдачи информации около 1
Мбайт/с и медленнодействующие (дисплеи, печатающие устройства и др.) со
скоростями порядка 1 Кбайт/с и менее. Быстродействие основной памяти обычно
значительно выше. С учетом производительности ВУ в КВВ реализуются два режима работы:
мультиплексный (режим разделения времени) и монопольный.

В мультиплексном режиме несколько
внешних устройств разделяют канал во времени, при этом каждое из параллельно
работающих с каналом ВУ связывается с КВВ на короткие промежутки времени только
после того, как ВУ будет готово к приему или выдаче очередной порции информации
(байта, группы байтов и т. д.). Такая схема принята в мультиплексном канале
ввода/вывода. Если в течение сеанса связи пересылается один байт или
несколько байтов, образующих одно машинное слово, канал называется байт-мультиплексным.
Канал, в котором в пределах сеанса связи пересылка данных выполняется
поблочно, носит название блок-4 мультиплексного.

В монопольном режиме после установления
связи между каналом и ВУ последнее монополизирует канал на все время до завершения
инициированной процессором канальной программы и всех предусмотренных этой
программой пересылок данных между ВУ и ОП. На все время выполнения канальной
программы канал оказывается недоступным для других ВУ. Данную процедуру
обеспечивает селекторный канал ввода/вывода. Отметим, что в
блок-мультиплексном канале в рамках сеанса связи пересылка блока осуществляется
в монопольном режиме.

Помимо указанных функций на канал
может возлагаться ряд дополнительных для минимизации участия процессора в
операциях I/O:

·
Организация
цепочки данных.
Для случаев, когда массив информации, предназначенный для операции ввода или
вывода с некоторым ПУ, не располагается в памяти подряд, а состоит из
нескольких подмассивов, размещенных в произвольно расположенных участках ОП. Чтобы
в этом случае ввод (вывод) каждого подмассива не требовал включения в программу
процессора отдельной команды ввода (вывода), а передача всех подмассивов
инициировалась одной командой процессора, канал должен допускать задание в
программе управления каналом цепочки для передачи такого составного массива.

·
Организация
пропуска информации.
При операциях I/O может
возникнуть необходимость переносить в память с носителя информации отдельные
части массива, пропуская ненужные данные.

·
Формирование
запросов прерывания от I/O. Канал должен прерыванием извещать
процессор об окончании каждой операции I/O, а также об
обнаружении ошибки или каких-либо других необычных условий, вследствие чего
произошло принудительное окончание выполняемой операции. Наряду с этим должна
иметься возможность задания прерывания на любом этапе операции I/O. Такое
прерывание называется программно-управляемым. Оно не нарушает нормальное
выполнение текущей операции I/O. Появление
запроса программно-управляемого прерывания означает, что выполнены все операции
I/O, предшествующие
в программе управления каналом этому запросу.

·
Управляющая
информация для операций I/O. В операциях I/O участвуют три
типа устройств: процессор (превый уровень управления), сопроцессор I/O (второй
уровень), ПУ (третий уровень). Каждому типу устройств соответствует
определенный вид управляющей информации: процессору – команды, сопроцессору –
управляющие слова канала (УСК), ПУ – приказы. Кроме того, в управлении I/O используются
коды состояния канала (слово состояния сопроцессора) и ПУ (байт состояний и
байты уточненного состояния). Команды I/O процессора (!)
являются привилегированными и выполняются только в состоянии «супервизор».

Классификация сопроцессоров I/O

В зависимости от соотношения быстродействия ОП и ПУ в
каналах I/O могут
реализовываться два режима работы: монопольный (селекторный), разделения
времени (мультиплексирования).

<-Монопольный режим.
После установки связи между каналом и ПУ последнее монополизирует канал на все
время, пока полностью не завершится инициированная процессором программа
управлением сопроцессором I/O
работы с данным ПУ и не будут произведены все предусмотренные этой программой
передачи данных между ОП и ПУ. На все время выполнения данной программы I/O канал оказывается занятым для
других ПУ.

Режим разделения времени ->
(мультиплексный). Несколько ПУ разделяют во времени канал I/O, при этом каждое из параллельно работающих с данным каналом
ПУ связывается с каналом на короткие промежутки времени только после того, как
ПУ подготовлено к приему или выдаче очередной порции информации. Промежуток
времени, в течение которого происходит передача информации между каналом и
подготовленным к этому ПУ, может быть назван сеансом связи. Сеансы связи
различных ПУ чередуются между собой. Во время сеанса связи одного из устройств
с каналом другие устройства могут выполнять работу не требующую использования
средств канала. В соответствии с преимущественно реализуемым режимом работы
различают каналы I/O
мультиплексный, осуществляющий мультиплексирование ПУ, и селекторный,
взаимодействующий с ПУ в монопольном режиме.

Сопроцессор может иметь свои
управляющие слова.

Источник

To clean up transmission errors introduced by Earth’s atmosphere (left), Goddard scientists applied Reed–Solomon error correction (right), which is commonly used in CDs and DVDs. Typical errors include missing pixels (white) and false signals (black). The white stripe indicates a brief period when transmission was interrupted.

In information theory and coding theory with applications in computer science and telecommunication, error detection and correction (EDAC) or error control are techniques that enable reliable delivery of digital data over unreliable communication channels. Many communication channels are subject to channel noise, and thus errors may be introduced during transmission from the source to a receiver. Error detection techniques allow detecting such errors, while error correction enables reconstruction of the original data in many cases.

Definitions[edit]

Error detection is the detection of errors caused by noise or other impairments during transmission from the transmitter to the receiver.

Error correction is the detection of errors and reconstruction of the original, error-free data.

History[edit]

In classical antiquity, copyists of the Hebrew Bible were paid for their work according to the number of stichs (lines of verse). As the prose books of the Bible were hardly ever written in stichs, the copyists, in order to estimate the amount of work, had to count the letters.^[1] This also helped ensure accuracy in the transmission of the text with the production of subsequent copies.^[2]^[3] Between the 7th and 10th centuries CE a group of Jewish scribes formalized and expanded this to create the Numerical Masorah to ensure accurate reproduction of the sacred text. It included counts of the number of words in a line, section, book and groups of books, noting the middle stich of a book, word use statistics, and commentary.^[1] Standards became such that a deviation in even a single letter in a Torah scroll was considered unacceptable.^[4] The effectiveness of their error correction method was verified by the accuracy of copying through the centuries demonstrated by discovery of the Dead Sea Scrolls in 1947–1956, dating from c. 150 BCE-75 CE.^[5]

The modern development of error correction codes is credited to Richard Hamming in 1947.^[6] A description of Hamming’s code appeared in Claude Shannon’s A Mathematical Theory of Communication^[7] and was quickly generalized by Marcel J. E. Golay.^[8]

Principles[edit]

All error-detection and correction schemes add some redundancy (i.e., some extra data) to a message, which receivers can use to check consistency of the delivered message and to recover data that has been determined to be corrupted. Error detection and correction schemes can be either systematic or non-systematic. In a systematic scheme, the transmitter sends the original (error-free) data and attaches a fixed number of check bits (or parity data), which are derived from the data bits by some encoding algorithm. If error detection is required, a receiver can simply apply the same algorithm to the received data bits and compare its output with the received check bits; if the values do not match, an error has occurred at some point during the transmission. If error correction is required, a receiver can apply the decoding algorithm to the received data bits and the received check bits to recover the original error-free data. In a system that uses a non-systematic code, the original message is transformed into an encoded message carrying the same information and that has at least as many bits as the original message.

Good error control performance requires the scheme to be selected based on the characteristics of the communication channel. Common channel models include memoryless models where errors occur randomly and with a certain probability, and dynamic models where errors occur primarily in bursts. Consequently, error-detecting and correcting codes can be generally distinguished between random-error-detecting/correcting and burst-error-detecting/correcting. Some codes can also be suitable for a mixture of random errors and burst errors.

If the channel characteristics cannot be determined, or are highly variable, an error-detection scheme may be combined with a system for retransmissions of erroneous data. This is known as automatic repeat request (ARQ), and is most notably used in the Internet. An alternate approach for error control is hybrid automatic repeat request (HARQ), which is a combination of ARQ and error-correction coding.

Types of error correction[edit]

There are three major types of error correction:^[9]

Automatic repeat request[edit]

Automatic repeat request (ARQ) is an error control method for data transmission that makes use of error-detection codes, acknowledgment and/or negative acknowledgment messages, and timeouts to achieve reliable data transmission. An acknowledgment is a message sent by the receiver to indicate that it has correctly received a data frame.

Usually, when the transmitter does not receive the acknowledgment before the timeout occurs (i.e., within a reasonable amount of time after sending the data frame), it retransmits the frame until it is either correctly received or the error persists beyond a predetermined number of retransmissions.

Three types of ARQ protocols are Stop-and-wait ARQ, Go-Back-N ARQ, and Selective Repeat ARQ.

ARQ is appropriate if the communication channel has varying or unknown capacity, such as is the case on the Internet. However, ARQ requires the availability of a back channel, results in possibly increased latency due to retransmissions, and requires the maintenance of buffers and timers for retransmissions, which in the case of network congestion can put a strain on the server and overall network capacity.^[10]

For example, ARQ is used on shortwave radio data links in the form of ARQ-E, or combined with multiplexing as ARQ-M.

Forward error correction[edit]

Forward error correction (FEC) is a process of adding redundant data such as an error-correcting code (ECC) to a message so that it can be recovered by a receiver even when a number of errors (up to the capability of the code being used) are introduced, either during the process of transmission or on storage. Since the receiver does not have to ask the sender for retransmission of the data, a backchannel is not required in forward error correction. Error-correcting codes are used in lower-layer communication such as cellular network, high-speed fiber-optic communication and Wi-Fi,^[11]^[12] as well as for reliable storage in media such as flash memory, hard disk and RAM.^[13]

Error-correcting codes are usually distinguished between convolutional codes and block codes:

Convolutional codes are processed on a bit-by-bit basis. They are particularly suitable for implementation in hardware, and the Viterbi decoder allows optimal decoding.
Block codes are processed on a block-by-block basis. Early examples of block codes are repetition codes, Hamming codes and multidimensional parity-check codes. They were followed by a number of efficient codes, Reed–Solomon codes being the most notable due to their current widespread use. Turbo codes and low-density parity-check codes (LDPC) are relatively new constructions that can provide almost optimal efficiency.

Shannon’s theorem is an important theorem in forward error correction, and describes the maximum information rate at which reliable communication is possible over a channel that has a certain error probability or signal-to-noise ratio (SNR). This strict upper limit is expressed in terms of the channel capacity. More specifically, the theorem says that there exist codes such that with increasing encoding length the probability of error on a discrete memoryless channel can be made arbitrarily small, provided that the code rate is smaller than the channel capacity. The code rate is defined as the fraction k/n of k source symbols and n encoded symbols.

The actual maximum code rate allowed depends on the error-correcting code used, and may be lower. This is because Shannon’s proof was only of existential nature, and did not show how to construct codes that are both optimal and have efficient encoding and decoding algorithms.

Hybrid schemes[edit]

Hybrid ARQ is a combination of ARQ and forward error correction. There are two basic approaches:^[10]

Messages are always transmitted with FEC parity data (and error-detection redundancy). A receiver decodes a message using the parity information and requests retransmission using ARQ only if the parity data was not sufficient for successful decoding (identified through a failed integrity check).
Messages are transmitted without parity data (only with error-detection information). If a receiver detects an error, it requests FEC information from the transmitter using ARQ and uses it to reconstruct the original message.

The latter approach is particularly attractive on an erasure channel when using a rateless erasure code.

Types of error detection[edit]

Error detection is most commonly realized using a suitable hash function (or specifically, a checksum, cyclic redundancy check or other algorithm). A hash function adds a fixed-length tag to a message, which enables receivers to verify the delivered message by recomputing the tag and comparing it with the one provided.

There exists a vast variety of different hash function designs. However, some are of particularly widespread use because of either their simplicity or their suitability for detecting certain kinds of errors (e.g., the cyclic redundancy check’s performance in detecting burst errors).

Minimum distance coding[edit]

A random-error-correcting code based on minimum distance coding can provide a strict guarantee on the number of detectable errors, but it may not protect against a preimage attack.

Repetition codes[edit]

A repetition code is a coding scheme that repeats the bits across a channel to achieve error-free communication. Given a stream of data to be transmitted, the data are divided into blocks of bits. Each block is transmitted some predetermined number of times. For example, to send the bit pattern 1011, the four-bit block can be repeated three times, thus producing 1011 1011 1011. If this twelve-bit pattern was received as 1010 1011 1011 – where the first block is unlike the other two – an error has occurred.

A repetition code is very inefficient and can be susceptible to problems if the error occurs in exactly the same place for each group (e.g., 1010 1010 1010 in the previous example would be detected as correct). The advantage of repetition codes is that they are extremely simple, and are in fact used in some transmissions of numbers stations.^[14]^[15]

Parity bit[edit]

A parity bit is a bit that is added to a group of source bits to ensure that the number of set bits (i.e., bits with value 1) in the outcome is even or odd. It is a very simple scheme that can be used to detect single or any other odd number (i.e., three, five, etc.) of errors in the output. An even number of flipped bits will make the parity bit appear correct even though the data is erroneous.

Parity bits added to each word sent are called transverse redundancy checks, while those added at the end of a stream of words are called longitudinal redundancy checks. For example, if each of a series of m-bit words has a parity bit added, showing whether there were an odd or even number of ones in that word, any word with a single error in it will be detected. It will not be known where in the word the error is, however. If, in addition, after each stream of n words a parity sum is sent, each bit of which shows whether there were an odd or even number of ones at that bit-position sent in the most recent group, the exact position of the error can be determined and the error corrected. This method is only guaranteed to be effective, however, if there are no more than 1 error in every group of n words. With more error correction bits, more errors can be detected and in some cases corrected.

There are also other bit-grouping techniques.

Checksum[edit]

A checksum of a message is a modular arithmetic sum of message code words of a fixed word length (e.g., byte values). The sum may be negated by means of a ones’-complement operation prior to transmission to detect unintentional all-zero messages.

Checksum schemes include parity bits, check digits, and longitudinal redundancy checks. Some checksum schemes, such as the Damm algorithm, the Luhn algorithm, and the Verhoeff algorithm, are specifically designed to detect errors commonly introduced by humans in writing down or remembering identification numbers.

Cyclic redundancy check[edit]

A cyclic redundancy check (CRC) is a non-secure hash function designed to detect accidental changes to digital data in computer networks. It is not suitable for detecting maliciously introduced errors. It is characterized by specification of a generator polynomial, which is used as the divisor in a polynomial long division over a finite field, taking the input data as the dividend. The remainder becomes the result.

A CRC has properties that make it well suited for detecting burst errors. CRCs are particularly easy to implement in hardware and are therefore commonly used in computer networks and storage devices such as hard disk drives.

The parity bit can be seen as a special-case 1-bit CRC.

Cryptographic hash function[edit]

The output of a cryptographic hash function, also known as a message digest, can provide strong assurances about data integrity, whether changes of the data are accidental (e.g., due to transmission errors) or maliciously introduced. Any modification to the data will likely be detected through a mismatching hash value. Furthermore, given some hash value, it is typically infeasible to find some input data (other than the one given) that will yield the same hash value. If an attacker can change not only the message but also the hash value, then a keyed hash or message authentication code (MAC) can be used for additional security. Without knowing the key, it is not possible for the attacker to easily or conveniently calculate the correct keyed hash value for a modified message.

Error correction code[edit]

Any error-correcting code can be used for error detection. A code with minimum Hamming distance, d, can detect up to d − 1 errors in a code word. Using minimum-distance-based error-correcting codes for error detection can be suitable if a strict limit on the minimum number of errors to be detected is desired.

Codes with minimum Hamming distance d = 2 are degenerate cases of error-correcting codes and can be used to detect single errors. The parity bit is an example of a single-error-detecting code.

Applications[edit]

Applications that require low latency (such as telephone conversations) cannot use automatic repeat request (ARQ); they must use forward error correction (FEC). By the time an ARQ system discovers an error and re-transmits it, the re-sent data will arrive too late to be usable.

Applications where the transmitter immediately forgets the information as soon as it is sent (such as most television cameras) cannot use ARQ; they must use FEC because when an error occurs, the original data is no longer available.

Applications that use ARQ must have a return channel; applications having no return channel cannot use ARQ.

Applications that require extremely low error rates (such as digital money transfers) must use ARQ due to the possibility of uncorrectable errors with FEC.

Reliability and inspection engineering also make use of the theory of error-correcting codes.^[16]

Internet[edit]

In a typical TCP/IP stack, error control is performed at multiple levels:

Each Ethernet frame uses CRC-32 error detection. Frames with detected errors are discarded by the receiver hardware.
The IPv4 header contains a checksum protecting the contents of the header. Packets with incorrect checksums are dropped within the network or at the receiver.
The checksum was omitted from the IPv6 header in order to minimize processing costs in network routing and because current link layer technology is assumed to provide sufficient error detection (see also RFC 3819).
UDP has an optional checksum covering the payload and addressing information in the UDP and IP headers. Packets with incorrect checksums are discarded by the network stack. The checksum is optional under IPv4, and required under IPv6. When omitted, it is assumed the data-link layer provides the desired level of error protection.
TCP provides a checksum for protecting the payload and addressing information in the TCP and IP headers. Packets with incorrect checksums are discarded by the network stack and eventually get retransmitted using ARQ, either explicitly (such as through three-way handshake) or implicitly due to a timeout.

Deep-space telecommunications[edit]

The development of error-correction codes was tightly coupled with the history of deep-space missions due to the extreme dilution of signal power over interplanetary distances, and the limited power availability aboard space probes. Whereas early missions sent their data uncoded, starting in 1968, digital error correction was implemented in the form of (sub-optimally decoded) convolutional codes and Reed–Muller codes.^[17] The Reed–Muller code was well suited to the noise the spacecraft was subject to (approximately matching a bell curve), and was implemented for the Mariner spacecraft and used on missions between 1969 and 1977.

The Voyager 1 and Voyager 2 missions, which started in 1977, were designed to deliver color imaging and scientific information from Jupiter and Saturn.^[18] This resulted in increased coding requirements, and thus, the spacecraft were supported by (optimally Viterbi-decoded) convolutional codes that could be concatenated with an outer Golay (24,12,8) code. The Voyager 2 craft additionally supported an implementation of a Reed–Solomon code. The concatenated Reed–Solomon–Viterbi (RSV) code allowed for very powerful error correction, and enabled the spacecraft’s extended journey to Uranus and Neptune. After ECC system upgrades in 1989, both crafts used V2 RSV coding.

The Consultative Committee for Space Data Systems currently recommends usage of error correction codes with performance similar to the Voyager 2 RSV code as a minimum. Concatenated codes are increasingly falling out of favor with space missions, and are replaced by more powerful codes such as Turbo codes or LDPC codes.

The different kinds of deep space and orbital missions that are conducted suggest that trying to find a one-size-fits-all error correction system will be an ongoing problem. For missions close to Earth, the nature of the noise in the communication channel is different from that which a spacecraft on an interplanetary mission experiences. Additionally, as a spacecraft increases its distance from Earth, the problem of correcting for noise becomes more difficult.

Satellite broadcasting[edit]

The demand for satellite transponder bandwidth continues to grow, fueled by the desire to deliver television (including new channels and high-definition television) and IP data. Transponder availability and bandwidth constraints have limited this growth. Transponder capacity is determined by the selected modulation scheme and the proportion of capacity consumed by FEC.

Data storage[edit]

Error detection and correction codes are often used to improve the reliability of data storage media.^[19] A parity track capable of detecting single-bit errors was present on the first magnetic tape data storage in 1951. The optimal rectangular code used in group coded recording tapes not only detects but also corrects single-bit errors. Some file formats, particularly archive formats, include a checksum (most often CRC32) to detect corruption and truncation and can employ redundancy or parity files to recover portions of corrupted data. Reed-Solomon codes are used in compact discs to correct errors caused by scratches.

Modern hard drives use Reed–Solomon codes to detect and correct minor errors in sector reads, and to recover corrupted data from failing sectors and store that data in the spare sectors.^[20] RAID systems use a variety of error correction techniques to recover data when a hard drive completely fails. Filesystems such as ZFS or Btrfs, as well as some RAID implementations, support data scrubbing and resilvering, which allows bad blocks to be detected and (hopefully) recovered before they are used.^[21] The recovered data may be re-written to exactly the same physical location, to spare blocks elsewhere on the same piece of hardware, or the data may be rewritten onto replacement hardware.

Error-correcting memory[edit]

Dynamic random-access memory (DRAM) may provide stronger protection against soft errors by relying on error-correcting codes. Such error-correcting memory, known as ECC or EDAC-protected memory, is particularly desirable for mission-critical applications, such as scientific computing, financial, medical, etc. as well as extraterrestrial applications due to the increased radiation in space.

Error-correcting memory controllers traditionally use Hamming codes, although some use triple modular redundancy. Interleaving allows distributing the effect of a single cosmic ray potentially upsetting multiple physically neighboring bits across multiple words by associating neighboring bits to different words. As long as a single-event upset (SEU) does not exceed the error threshold (e.g., a single error) in any particular word between accesses, it can be corrected (e.g., by a single-bit error-correcting code), and the illusion of an error-free memory system may be maintained.^[22]

In addition to hardware providing features required for ECC memory to operate, operating systems usually contain related reporting facilities that are used to provide notifications when soft errors are transparently recovered. One example is the Linux kernel’s EDAC subsystem (previously known as Bluesmoke), which collects the data from error-checking-enabled components inside a computer system; besides collecting and reporting back the events related to ECC memory, it also supports other checksumming errors, including those detected on the PCI bus.^[23]^[24]^[25] A few systems^[specify] also support memory scrubbing to catch and correct errors early before they become unrecoverable.

References[edit]

^ ^a ^b «Masorah». Jewish Encyclopedia.
^ Pratico, Gary D.; Pelt, Miles V. Van (2009). Basics of Biblical Hebrew Grammar: Second Edition. Zondervan. ISBN 978-0-310-55882-8.
^ Mounce, William D. (2007). Greek for the Rest of Us: Using Greek Tools Without Mastering Biblical Languages. Zondervan. p. 289. ISBN 978-0-310-28289-1.
^ Mishneh Torah, Tefillin, Mezuzah, and Sefer Torah, 1:2. Example English translation: Eliyahu Touger. The Rambam’s Mishneh Torah. Moznaim Publishing Corporation.
^ Brian M. Fagan (5 December 1996). «Dead Sea Scrolls». The Oxford Companion to Archaeology. Oxford University Press. ISBN 0195076184.
^ Thompson, Thomas M. (1983), From Error-Correcting Codes through Sphere Packings to Simple Groups, The Carus Mathematical Monographs (#21), The Mathematical Association of America, p. vii, ISBN 0-88385-023-0
^ Shannon, C.E. (1948), «A Mathematical Theory of Communication», Bell System Technical Journal, 27 (3): 379–423, doi:10.1002/j.1538-7305.1948.tb01338.x, hdl:10338.dmlcz/101429, PMID 9230594
^ Golay, Marcel J. E. (1949), «Notes on Digital Coding», Proc.I.R.E. (I.E.E.E.), 37: 657
^ Gupta, Vikas; Verma, Chanderkant (November 2012). «Error Detection and Correction: An Introduction». International Journal of Advanced Research in Computer Science and Software Engineering. 2 (11). S2CID 17499858.
^ ^a ^b A. J. McAuley, Reliable Broadband Communication Using a Burst Erasure Correcting Code, ACM SIGCOMM, 1990.
^ Shah, Pradeep M.; Vyavahare, Prakash D.; Jain, Anjana (September 2015). «Modern error correcting codes for 4G and beyond: Turbo codes and LDPC codes». 2015 Radio and Antenna Days of the Indian Ocean (RADIO): 1–2. doi:10.1109/RADIO.2015.7323369. ISBN 978-9-9903-7339-4. S2CID 28885076. Retrieved 22 May 2022.
^ «IEEE SA — IEEE 802.11ac-2013». IEEE Standards Association.
^ «Transition to Advanced Format 4K Sector Hard Drives | Seagate US». Seagate.com. Retrieved 22 May 2022.
^ Frank van Gerwen. «Numbers (and other mysterious) stations». Archived from the original on 12 July 2017. Retrieved 12 March 2012.
^ Gary Cutlack (25 August 2010). «Mysterious Russian ‘Numbers Station’ Changes Broadcast After 20 Years». Gizmodo. Retrieved 12 March 2012.
^ Ben-Gal I.; Herer Y.; Raz T. (2003). «Self-correcting inspection procedure under inspection errors» (PDF). IIE Transactions. IIE Transactions on Quality and Reliability, 34(6), pp. 529-540. Archived from the original (PDF) on 2013-10-13. Retrieved 2014-01-10.
^ K. Andrews et al., The Development of Turbo and LDPC Codes for Deep-Space Applications, Proceedings of the IEEE, Vol. 95, No. 11, Nov. 2007.
^ Huffman, William Cary; Pless, Vera S. (2003). Fundamentals of Error-Correcting Codes. Cambridge University Press. ISBN 978-0-521-78280-7.
^ Kurtas, Erozan M.; Vasic, Bane (2018-10-03). Advanced Error Control Techniques for Data Storage Systems. CRC Press. ISBN 978-1-4200-3649-7.^{[permanent dead link]}
^ Scott A. Moulton. «My Hard Drive Died». Archived from the original on 2008-02-02.
^ Qiao, Zhi; Fu, Song; Chen, Hsing-Bung; Settlemyer, Bradley (2019). «Building Reliable High-Performance Storage Systems: An Empirical and Analytical Study». 2019 IEEE International Conference on Cluster Computing (CLUSTER): 1–10. doi:10.1109/CLUSTER.2019.8891006. ISBN 978-1-7281-4734-5. S2CID 207951690.
^ «Using StrongArm SA-1110 in the On-Board Computer of Nanosatellite». Tsinghua Space Center, Tsinghua University, Beijing. Archived from the original on 2011-10-02. Retrieved 2009-02-16.
^ Jeff Layton. «Error Detection and Correction». Linux Magazine. Retrieved 2014-08-12.
^ «EDAC Project». bluesmoke.sourceforge.net. Retrieved 2014-08-12.
^ «Documentation/edac.txt». Linux kernel documentation. kernel.org. 2014-06-16. Archived from the original on 2009-09-05. Retrieved 2014-08-12.

External links[edit]

The on-line textbook: Information Theory, Inference, and Learning Algorithms, by David J.C. MacKay, contains chapters on elementary error-correcting codes; on the theoretical limits of error-correction; and on the latest state-of-the-art error-correcting codes, including low-density parity-check codes, turbo codes, and fountain codes.
ECC Page — implementations of popular ECC encoding and decoding routines

Источник

Стратегии исправления ошибок

Упреждающая коррекция ошибок

Автоматический запрос повторной передачи

Сетевое кодирование

Энергетический выигрыш

Примечания

Литература

Ссылки

Контроль данных и исправление ошибок.

Построение новых переменных.

Содержание

Способы борьбы с ошибками

Коды обнаружения и исправления ошибок

Блоковые коды

Линейные коды общего вида

Минимальное расстояние и корректирующая способность

Коды Хемминга

Общий метод декодирования линейных кодов

Линейные циклические коды

Порождающий (генераторный) полином

Коды CRC

Коды БЧХ

Коды коррекции ошибок Рида — Соломона

Преимущества и недостатки блоковых кодов

Свёрточные коды

Преимущества и недостатки свёрточных кодов

Каскадное кодирование. Итеративное декодирование

Сетевое кодирование

Оценка эффективности кодов

Граница Хемминга и совершенные коды

Энергетический выигрыш

Применение кодов, исправляющих ошибки

Автоматический запрос повторной передачи

Запрос ARQ с остановками (stop-and-wait ARQ)

Непрерывный запрос ARQ с возвратом (continuous ARQ with pullback)

Непрерывный запрос ARQ с выборочным повторением (continuous ARQ with selective repeat)

См. также

Литература

Ссылки

Definitions[edit]

History[edit]

Principles[edit]

Types of error correction[edit]

Automatic repeat request[edit]

Forward error correction[edit]

Hybrid schemes[edit]

Types of error detection[edit]

Minimum distance coding[edit]

Repetition codes[edit]

Parity bit[edit]

Checksum[edit]

Cyclic redundancy check[edit]

Cryptographic hash function[edit]

Error correction code[edit]

Applications[edit]

Internet[edit]

Deep-space telecommunications[edit]

Satellite broadcasting[edit]

Data storage[edit]

Error-correcting memory[edit]

See also[edit]

References[edit]

Further reading[edit]

External links[edit]

Возможно, вам также будет интересно: