Авторами разработан генетический алгоритм для расшифрования текста, зашифрованного с помощью симметричного блочного подстановочного шифра Тритемия – Белазо – Виженера. Секретный ключ такого шифра состоит из ключевого слова и таблицы Виженера. Предполагается, что, во-первых, длина ключевого слова известна, но не известны само слово и таблица Виженера, а, во-вторых, что исходный текст является осмысленным. Каждая особь популяции кодирует одну из перестановок всех букв исходного алфавита и является первой строкой таблицы Виженера. Фитнесс-функция вычисляется как суммарное отклонение частот биграмм в тексте, расшифрованном с помощью данной особи, от частот биграмм в достаточно длинном среднестатистическом осмысленном тексте на этом же языке. Для тестирования генетического алгоритма были подготовлены тестовые задания в виде фрагментов литературных произведений на русском языке, а также тексты на искусственных языках. Тестирование показало, что для естественных языков расшифрование можно полностью автоматизировать, если длина шифр-текста превосходит длину ключевого слова более чем в 2000 раз. В противном случае может потребоваться дополнительная «ручная» работа криптоаналитика. Для искусственных языков расшифрование с помощью генетического алгоритма возможно, если, кроме того, распределение частот встречаемости биграмм не является равномерным.

Authors have developed a genetic algorithm to decrypt given ciphertext which was encrypted by a symmetric block subsitutive cipher of Trithemius – Belaso – Vigenere. A cipher secret key consists of a keyword and Vigenere´s table. It is assumed that, first, the keyword length is known, but the keyword and Vigenere´s table are not known, and, secondly, that the plane text is intelligent. Each individual of the population in genetic algorithm encodes a permutation of alphabet letters which is the first line of the Vigenere´s table. Fitness function is calculated as total frequency of bigrams deviation in the text decrypted by this individual from ones in a sufficiently long average statistical intelligent text on the same language. To check out the genetic algorithm a lot of tests were prepared as fragments of novels in Russian, as well as texts on artificial languages. Testing has shown that decryption can be fully automated for natural languages if the ciphertext length exceeds the keyword length more than 2000 times. Otherwise, additional manual skills of cryptanalystare required. Using of genetic algorithm to decrypt given cipher text on artificial languages is possible if, in addition, the distribution of bigrams frequencies is not uniform.