Có tất cả 5 + 3 = 8 bạn học sinh.
Việc xếp 8 bạn học sinh thoả mãn yêu cầu bài toán có thể được thực hiện qua hai công đoạn:
- Công đoạn 1: chọn ra 2 bạn trong số 5 bạn nam để xếp vào hai vị trí ngoài cùng bên trái và ngoài cùng bên phải;
- Công đoạn 2: xếp 8 – 2 = 6 bạn còn lại vào các vị trí giữa hai bạn nam đã xếp.
Đối với công đoạn 1, số cách chọn ra hai người và xếp vào hai vị trí là:
$A_{5}^{2}=\frac{5!}{(5-2)!}=\frac{5\times 4\times 3!}{3!}=5\times 4=20$ (cách).
Đối với công đoạn 2, số cách xếp 6 người vào 6 vị trí còn lại là:
6! = 6 x 5 x 4 x 3 x 2 x 1 = 720 (cách)
Theo quy tắc nhân, tổng số cách xếp là: 20 x 720 = 14 400 (cách).