Ну, в общем, как-то так, видимо. Вначале определяем размер лота для покупки с маржой, равной всему депозиту. После этого открывается продажа. Уровень задействованной маржи снижается. Это максимально возможный объем лота для депозита.
Соответственно лот для продажи я уменьшу. Сейчас проверял вообще алгоритм поиска макс. возможного лота для конкретного депо.