Todo algoritmo de Aprendizado de máquina possui algum viés, isto é, a tendência a privilegiar uma hipótese ou conjunto de hipóteses no processo de generalização. O viés pode ser resultado tanto da representação das hipóteses pelo algoritmo, que define e restringe o espaço de hipóteses possíveis, quanto da própria busca e os métodos utilizados para considerar uma hipótese melhor do que a outra. Vale destacar que o viés é essencial para restringir o espaço de hipóteses possíveis e de fato encontrar uma generalização. Sem viés não seria possível obter nenhuma generalização a partir de dados.