Можно ли требовать аутентификацию только в определенных базах данных mongodb (оставляя другие базы данных со свободным доступом без требований аутентификации)?
Нет, это невозможно. Согласно документация mongodb:
Включение управления доступом в развертывании MongoDB обеспечивает проверку подлинности, требующую от пользователей идентификации.
Таким образом, проверка подлинности, если она включена, включена в экземпляре mongodb, поэтому у вас не может быть баз данных в экземпляре, не требующих аутентификации.