В tinc 1.0.x есть Cipher param, который позволяет установить шифрование для UDP-пакетов. Для TCP-пакетов нельзя изменять метод шифрования. http://www.tinc-vpn.org/pipermail/tinc-devel/2005-July/000256.html. Какой метод используется для шифрования TCP?
Он использует Blowfish OFB, как в этой строке в net_setup.c
myself->connection->outcipher = EVP_bf_ofb();
Я не знаю, почему автор не может добавить этот параметр в tinc.conf.