优化是放射治疗计划系统的重要组成部分之一。针对放射治疗方案的优化问题，本文提出了一系列解决方案，主要包括以下几个方面：1）提出了在NSGA-II多目标优化遗传算法中加入局部搜索算子及外部精英收集池的改进算法－NSGA-II多目标混合遗传算法;2）针对伽玛刀立体定向放射治疗计划系统中的优化问题提出了一个两步优化的方案；3）针对全身伽玛刀治疗体部肿瘤的靶点设计优化问题，提出了一种新颖的靶点设计及优化解决方案；4）针对全身伽玛刀治疗体部肿瘤的治疗路径优化问题，在靶点优化的基础上，提出了采用遗传算法进行治疗路径优化的解决方案，使治疗过程更为简便快捷，有利于减少治疗过程中医生的劳动强度；5）实现了一种基于NSGA-Ⅱ多目标混合遗传算法的调强放射治疗逆向计划的优化方法；6）在Windows平台上开发了一套用于周围血管内放射治疗计划优化的主动漫游虚拟现实系统，用于提取血管的几何结构。