Кавказский - потому, что действие рассказа разворачивается в горах Кавказа.
Пленник - взятие в плен русских офицеров Костылина и Жилина вроде бы должно было отразиться во множественном числе названия (пленники), но дело в том, что автор видит офицером только Жилина, а трусость Костылина не вызывает сочувствия у Льва Николаевича, поэтому в единственном числе и название.
