Музей располагается в городе Аньян (провинция Хэнань), где в 1899 году были найдены первые цзягувэнь – иероглифические надписи костях животных и панцирях черепах, которые использовали для гадания. Цзягувэнь датируются XIV – XI веками до нашей эры и считаются древнейшими образцами китайской письменности.
В музее прослежена вся история китайской письменности. Так, в экспозиции представлены иероглифические надписи на камне и бронзовой посуде, относящиеся ко времени династий Шан (1600-1046 годы до нашей эры) и Чжоу (1066-256 годы до нашей эры), а также древние печати, монеты и произведения каллиграфии.
Кроме иероглифов народности Хань (самой распространенной в Китае) в музее демонстрируют образцы около 40 письменностей, которыми пользуются народности КНР.
"Жэньминь жибао" сообщает, что вывеску для музея написал лично Цзян Цзэминь, бывший генсек ЦК компартии Китая, умерший в 2003 году.