Есть известные трудности с определением того, что такое информация. И это понятно, ведь чтобы оперировать этим понятием, система уже должна обладать информационными свойствами, то есть в некотором смысле «знать», что это, на очень глубоком уровне. Здесь мы имеем дело не просто с безусловной рекурсией, приводящей к тавтологичности определения через само себя, а с безусловной мета-рекурсией, выводящей тавтологию на новый уровень. Поэтому невозможно нормально определить, что такое информация, можно только создать непротиворечивое пояснение, используя которое можно было бы создать модель, способную выполнять роль информации в модели мира, функционирующей в информационной же среде, и это тоже может быть полезным.
Информация — это одна из абстракций материи, основанная на возможности её различения. Всё, что может различаться (но не обязано), несёт информацию, всё, что неразличимо безусловным образом — не несёт. Поскольку для информации важна лишь способность к различению, допустимо говорить о возможности сохранения одной и той же информации в разных видах материи или разных способах хранения в одном виде материи до тех пор, пока сохраняется соответствие различий. Это может создавать иллюзию независимости, но, как абстракция материи, информация, естественно, материальна — она не существуют как отдельная фундаментальная сущность подобно тому, как это утверждал Норберт Винер.
Первичная информация является неотъемлемой частью материи и поэтому она всегда правильна, непротиворечива. Неправильность может возникнуть только во вторичной информации, которая появляется как итог сопоставления чему-то иному первичной информации того, что называют её носителем. Например, первичной информацией перфоленты является конфигурация её отверстий, которая является неотъемлемой составляющей самой ленты и, естественно, всегда соответствующей самой себе. А вот данные, которые кодируются с помощью этой конфигурации уже не связаны с состоянием ленты строгой причинно-следственной связью и могут как соответствовать чему-то, так и не соответствовать.