Назад | Перейти на главную страницу

Как установить коннектор cosmosdb spark в скрипт инициализации databricks

Пробую установить искровой коннектор cosmosdb (https://docs.microsoft.com/en-us/azure/cosmos-db/spark-connector) в лазурных блоках данных в кластере в сценарии инициализации, но были ошибки и нерабочий кластер (одна из библиотек uber имеет другую подпись) или сценарий не смог найти искровый соединитель даже после 20-минутной задержки. Но ту же библиотеку можно установить и она хорошо работает, когда я создаю интерактивный кластер и устанавливаю его на портале Azure. Я также пытался установить его как не uber-библиотеку (каждая библиотека зависимостей была установлена ​​отдельно), но скрипт не смог увидеть соединитель искры cosmosdb. Я также знаю, что могу создать библиотеку на портале, а также пометить ее для установки в каждом кластере в блоках данных. Но хотелось бы управлять им более гибко, как в сценарии инициализации. Еще пробовал разные версии в репозитории: https://repo1.maven.org/maven2/com/microsoft/azure/azure-cosmosdb-spark_2.4.0_2.11/ (соответствует версии Spark / Scala).

Любая помощь?