上合组织最高决策机构是成员国元首理事会,该会议每年举行一次,决定本组织所有重要问题。政府首脑(总理)理事会每年举行一次,讨论本组织框架下多边合作和优先领域的战略,决定经济及其他领域的原则性和重要问题,通过组织预算。
除元首理事会会议和政府首脑理事会会议外,上合组织框架内还设有外交、国防、安全、经贸、文化、卫生、教育、交通、紧急救灾、科技、农业、司法、旅游、工业、能源、减贫、体育等会议机制。上合组织成员国国家协调员理事会是上合组织框架下的协调机制。
本组织有两个常设机构,分别是设在北京的上合组织秘书处和设在塔什干的上合组织地区反恐怖机构执行委员会。上合组织秘书长和地区反恐怖机构执行主任由国家元首理事会任命,任期三年。2022年1月1日起,张明(中国籍)和米尔扎耶夫(乌兹别克斯坦籍)分别担任上海合作组织秘书长和地区反恐怖机构执行委员会主任。
2005年,上合组织一阿富汗联络组成立。上合组织同独联体、东盟、集安条约组织、经济合作组织、联合国亚太经社会、联合国毒罪办、亚信、红十字国际委员会、联合国教科文组织、联合国人道主义事务协调办公室、联合国粮农组织、世界旅游组织、欧亚经济委员会、阿盟等建立了伙伴关系。