scp filename user@ip_address:/location скопирует файл с моего локального компьютера на удаленный компьютер ... Однако мне нужно скопировать файл с удаленного компьютера обратно на локальный компьютер.
Есть ли способ указать, что нужно вытащить определенный файл с удаленного компьютера через ssh?
Это как раз наоборот, как и любая команда копирования / перемещения.
scp user@ip_address:/location/to/file /location
Смотрите также http://en.wikipedia.org/wiki/Secure_copy#How_it_works: