если изходить из тек скриншотовш что я нагуглил. в BorderLands шейдеры вообще довольно простые, обычнед диффуз материалы с outline.
а по мультяшному выглядит потому что текстуры так нарисованы.
ну в качестве примера мульяшности еще можно привести prince of persia (2008 года)
http://www.youtube.com/watch?v=plM3xJgKxrIв принсе персии у них на песонажах юзается шейдер, похожий на стандартный toonLighted outline,
и еще еффект постобработки на окружении, который тоже дает outline, и немного изменяет картинку добавляя мультяшности.
и Afrosamurai game.
http://www.zbrushcentral.com/showthread.php?80532-Afro-Samurai-Artwork-%28nudity%29(где-то я смотрел pdf с ихней системой рендера, не могу найти уже. там много всего было, но что мне больше всего понравилось):
в нем помимо outline еще используется такая фишечка со штрихованными тенями, в общем везде где рисовалась тень, туда накладывалась некая текстура карандашной штриховки. где-то вроде на офф. форуме встречал подобную тему, если хочешь там можешь поискать.