Взаимодействие с объектами операционной системы зависят от операционной системы. Файлы - объекты операционной системы. Все упирается в средства, которыми Вы взаимодействуете с оперционной системой, позволяют ли они тонко настраивать, или нет. Любые библиотеки (boost.filesystem или базовые средства языка, или что-то еще) - являются обертками над функциями операционной системы для взаимодействия с файлами.
В Windows есть функция CreateFile, которая позволяет управлять, будет ли файл доступен сторонним приложениям, или нет. Аналогичное есть (должно быть :) ) в любой операционной системе. Хорошие обертки над функциями ОС или тоже позволяют это настраивать, или, для реализации единообразности взаимодействия с разными ОС, немного урезают функционал, оставляя только то, что поддерживается большинством ОС.
Лично я F.Open
не узнаю, т.е. не могу судить об этой библиотеке.
Отвечая на вопрос: ничто не мешает Вашему ПО создавать объект ядра с теми настройками владения, какие Вам нужны, и держать его, сколько необходимо.