Với vai trò quan trọng trong việc xây dựng và huấn luyện, đánh giá mô hình mạng nơ-ron, thuật toán tối ưu là một công cụ hữu ích trong việc tìm giá trị hàm mất mát từ đó có sự điều chỉnh mô hình mạng một cách hợp lý, góp phần tăng tỉ lệ nhận dạng đúng trong tác vụ nhận diện hình ảnh. Bài báo đưa ra cách tiếp cận gần gũi nhất về thuật toán tối ưu cũng như các thuật toán tối ưu thường được sử dụng. Để thực hiện khảo sát, chúng tôi lựa chọn mô hình mạng nơ-ron tích chập (Convolution neural network - CNN), độ hiệu quả của các thuật toán tối ưu sẽ được đánh giá dựa trên giá trị hàm mất mát và tỉ lệ nhận dạng đúng của mô hình mạng đối với hai bộ cơ sở dữ liệu là MNIST và CIFAR-10. Bên cạnh đó vai trò các tham số và các thuật toán chi phối đến kết quả như tỉ lệ học (Learning rate) số chu kì học (Epoch), hàm mất mát, hàm Entropy chéo cũng sẽ được làm rõ trong quá trình thực nghiệm.