GNU Octave öncelikle numerik hesaplamalara yönelik yüksek seviyeli bir dildir. Çoğunlukla Matlab ile uyumlu bir dil kullanarak lineer (doğrusal) ve lineer olmayan problemleri numerik olarak çözmeye ve başka numerik deneyler yapmaya elverişli bir komut satırı arayüzü temin etmektedir. Batch-uyumlu bir dil olarak da kullanılabilir.

Octave, lineer olmayan denklemlerin köklerini bulmak, sıradan fonksiyonların integralini almak, polinom işlemleri yapmak ve sıradan diferansiyel ve diferansiyel-cebirsel denklemlerin integralini almak için kapsamlı araçlara sahiptir. Octave, kendi dilinde yazılmış kullanıcı tanımlı işlevler sayesinde ya da C++, C, Fortran ya da başka dillerde yazılmış dinamik olarak yüklenen modüller kullanılarak kolayca genişletilebilir ve özelleştirilebilir.