11-ю версию не юзал, но предполагаю что и в ней вряд ли появилась возможность нормальной работы с алфа-каналом. Именно из-за подобных проблем пришлось перейти с Пиннакла на Премьер.
Хотя использовать футажи с альфой в Студии все же можно. Когда "сидел" в Пиннакле, нашел такой способ(в инетне): Для этого способа необходимо переконвертировать наш футаж в TGA 32bit(обязательно)- последовательность кадров и сложить их одну директорию. Конвертацию можно сделать QuickTime - плеером(только зарегистрированная версия), Canopus ProCoder-ом и др. Для Студии 9 лучше указать размер кадров 768х576. При таком размере не будет пустот по краям. Проделав конвертацию, в настройках Студии указать длительность графики один кадр. После этого открыть в Студии эту директорию, выделить все файлы и положить их на вторую видеодорожку. На первой - исходное видео. Теперь можно увидеть результат работы.
Недостатки этого способа :
1 - невозможность применения какого либо перехода к последовательности (а это иногда необходимо), ведь переход не ложится на клип длительностью один кадр.
2 - этот способ плохо работает в Студии 10 (происходит долгое импортирование и без просчета невозможно нормально просмотреть результат).
Достоинства этого способа :
1 - лучший способ для работы в Студии 9(легко воспроизводится без просчета).
Как видите, то что делается в других программах двумя кликами мыши, в Студии целый процесс.
Если будет нужно, постараюсь найти источник этих знаний, там, кажется, были и другие способы.
Удачи!