У меня проблема между старым клиентом приложения W2k3 и сервером-менеджером, работающим на W2k12R2. Я тестировал тот же клиент W2k3 с другим менеджером, также на W2k12r2, и у меня нет проблем, поэтому, похоже, проблема не в сервере W2k3.
После захвата пакетов как на рабочем, так и на неработающем сервере W2k12 вместе с сервером W2k3, когда я пытаюсь заставить клиента подключиться, я вижу обычный Syn / Ack / SynAck, а затем Client Hello, но затем сервер отвечает немедленным RST и убивает соединение. Это регистрируется в журнале системных событий W2k12 как проблема Schannel.
Server2012R2 36874 Error Schannel System 26.10.2017, 16:39:08 От удаленного клиентского приложения был получен запрос на подключение TLS 1.0, но ни один из наборов шифров, поддерживаемых клиентским приложением, не поддерживается сервером. Запрос на соединение SSL не удался.
Server2012R2 36888 Error Schannel System 26.10.2017 16:39:08 Было создано фатальное предупреждение, которое было отправлено на удаленную конечную точку. Это может привести к разрыву соединения. Код фатальной ошибки, определенный протоколом TLS, - 40. Состояние ошибки Windows SChannel - 1205.
Я проверил ISSCrypto, что TLS1.0 включен на сервере W2k12R2, а также проверил, что все ключи / комплекты шифров совпадают правильно.
Используя OpenSSL, я попытался провести несколько тестов, и единственная разница, которую я вижу, заключается в том, что на неработающих серверах W2k12R2 размер открытого ключа составляет 4 КБ, тогда как на рабочем (с использованием другого сертификата) это размер открытого ключа 2 КБ.
Мой вопрос: может ли Windows 2003 SP2 обрабатывать ключ размером 4 КБ? Также были ли патчи, которые касались размера ключа во времена POODLE?
Любая помощь будет принята с благодарностью.