Надо делать так
X++:
reportRun.parmReportContract().parmQueryContracts().insert(reportRun.getFirstQueryContractKey(), new Query(queryStr(VendTableListPage)));
Но
Таким образом устанавливается запрос, который будет использоваться при генерации отчета без вызова диалога.
Если же вам надо изменить запрос, который отображается в диалоге, то надо идти через DataContract
Примерно так
X++:
SysOperationQueryDataContractInfo contract;
...
contract = reportRun.getDataContractInfoObject(reportRun.getFirstQueryContractKey());
contract.parmQuery(new Query(queryStr(VendTableListPage)));
reportRun.startOperation();