骑士团的中央机构主要由全体骑士大会、行政议事会、总团长组成。其中总团长(The Grand Master)为最高首领，是领土最高所有主，也是神圣罗马帝国的诸侯，由选举产生，终身执政。团长下设五大“总管”组成行政议事会，辅助执政：大统领 (the grand commander)掌管土地、军事统领(the supreme marshal)是军队的指挥官、财政官(the treasurer)是财政首脑、慈惠院检察官(the supreme hospitaller)掌管宗教事务、军需官(the supreme draper)掌管军粮供应，后来又监管贸易往来。行政议事会每年只开一次例会，或者在特别情况下临时召集。
骑士团在成立之初，成员由两个阶层构成：骑士兄弟会和教士兄弟会。骑士兄弟(Knight-brethren)严格遵守三项誓言：安贫、守贞、服从，而且必须帮助病弱并同异教徒作战。骑士兄弟披的黑十字白披风，平日进行严酷紧张的军事训练。他们生活方式简朴严格而且单调，“成员从团里领得一把宝剑、一块面包和一件旧袍，不能佩戴家族的纹章，不能与凡俗之人同住，不能常去奢华的城市，也不能单独骑马外出、读信或写信;每晚要被钟声叫醒四次去唱诗，白天去做四次祈祷，星期五要受到修道生活的训练，即使团长也没有权力给任何人休假……，如果一个成员有任何不端行为，就召开秘密团会，决定对其惩罚。”骑士兄弟是骑士团的核心力量。
教士会兄弟(priest- brethren)和骑士会兄弟不同，他们没有三项誓言的约束，他们的主要职责是给民众进行祈祷并从事一些宗教事务，他们为骑士和在医院的病患主持圣事，并作为随军牧师同骑士们一起出征。教士兄弟在普鲁士和立窝尼亚不能被选为团长、统领和副统领，但在德国可以被选为统领。后来，在这两个阶层之外又增加了第三个阶层——军士兄弟会(Sergeants, serving brothers)，他们披着灰色，上面有三角十字架的较小斗篷，这表明了他们在骑士团的地位。
骑士团对波罗的海地区的征服效率之高在当时来说令人惊讶，原因并不在人数的多寡。这一方面依赖于骑士们优良的装备、勇敢的精神、优秀的作战技能之外，另一方面也由于当地武装力量装备的低劣、防御技术的低下以及军队组织的涣散。
在中世纪，由骑士组成的骑兵部队在战斗中具有明显的优势，他们往往能决定战争的胜负，尽管许多学者对中世纪骑兵战斗力的优势提出质疑[注：里昂认为“ 骑兵在军事上从未胜过步兵”，巴赫拉赫认为，在中世纪的战役中骑兵并不是战术上的主导因素，因为没有弓箭手或其他步兵支持的情况下，骑兵的冲锋很少能够成功。
中世纪“在绝大多数战役中，徒步作战的人数都远远超出马背上作战的人数：5:1或6:1的比例在西方看起来是正常比例，而拜占庭人的这一比例则接近4:1”。但是骑兵在中世纪许多著名的战役中仍是最终决定胜负的力量。在中世纪，每一名骑士在正式成为一名战士之前，都要经过很长时间的体格、打斗、骑马以及作战技能的训练，这样的训练往往从小就开始。因此，骑士们往往具有健壮的体格、娴熟的武艺，同时也培养了他们勇敢豪迈的英勇精神。
由这样的战士组成的部队，虽然组织纪律性可能不强，但战斗力是不可低估的。并不是每个骑士都可以参加骑士团，加入骑士团有非常严格的限制，这些要求和圣殿骑士团非常相似：必须是非常年轻(年满14岁)，身体健康，没有身体缺陷，不能有债务或其他义务的拖累，而且必须是骑士的后代。对骑士出身的要求，保证了骑士兄弟们谙熟骑术、格斗等作战技巧，并且在早期，他们还要经过良好的训练，正因为如此，这些强壮、勇敢的年轻战士在对普鲁士、立窝尼亚的征服战斗中，才能够屡战屡胜。
骑士团的部队主要是重装骑兵，其装备主要有长矛、剑，全身由厚重的盔甲保护，战马也披着铠甲，骑士骑在马上挥舞着武器，横冲直撞，威力无比。这些戴盔挂甲越马扬鞭的武士，每个人都可成为一个独立的作战单位，而每人都是一座活动的堡垒。与这样的敌人作战，武器低劣、身无片甲的异教徒几乎无任何取胜的希望。事实上，骑士团在成立之初，只有40名骑士加入;当巴拉克进入普鲁士的时候，他只是率领20名骑士和200多名战士：据《骑士团编年史》记载说，一次库尔姆城被围，守城部队曾3次派人去雷登求援，他们所要求的仅是1名骑士，而当10名骑士赶到时，城中人大喜过望。即使在骑士团到达颠峰时期，普鲁士和立窝尼亚的骑士一共也没有超过1000人，可见骑士在当时的战斗力是如何之高。
