Pages

Resolvendo o problema do caixeiro viajante com Algoritmos Genéticos

Sunday, March 8, 2009

Olá Pessoal,

Como eu tinha citado no post anterior, sobre algoritmos genéticos, desenvolvi um pequeno simulador que soluciona o problema clássico NP-completo do caixeiro viajante (Traveling Salesman Problem - TSP) usando algoritmos genéticos (GA). Neste problema, o objetivo é encontrar a rota de menor distância entre N diferentes cidades. O caminho que o caixeiro faz é denominado de tour.


Se um caixeiro inicia do ponto A, e se as distâncias entre cada par de pontos é conhecida, qual é o menor caminho que visita todos os ponto e retorna ao ponto A ?


Para testar todas possibilidades de rotas para N cidades seria necessário calcular a permutação N!. Tudo bem, para um rota com 3 a 5 cidades, é fácil de calcular. Agora imagine um tour com 30 cidades! Seria necessário calcular a distância total de cada uma dessas 2.65 X 1032 diferentes rotas, assumindo um trilhão de cálculos por segundo, o que levaria aproximadamente 252,333,390,232,297 anos para achar a menor rota. Adicione mais uma cidade a esta rota e o tempo aumentaria em um fator exponencial elevado a 31. Fica claro, que é uma solução impossível calculando manualmente.

Algoritmos genéticos podem ser usados para solucionar este problema em menor tempo. Embora não haja garantias de encontrar a melhor solução, ela pode achar uma solução satisfatória bem próxima da ótima para um tour de 100 cidades em menos de 1 minuto. Há algums passos básicos para solucionar o problema do caixeiro viajante usando algoritmos genéticos, vejamos cada um deles a seguir:
  • Primeiro, um conjunto aleatório de rotas são criadas, inicializando assim a população. Este algoritmo cria uma população inicial 'gulosa', o qual dá preferência em montar conexões entre as cidades que estão mais próximas uma da outra.
  • Segundo, escolha as 2 melhores rotas (menores) da população para o cruzamento (crossover) e combine-os para gerar 2 novas rotas filhas. Grandes chances destas novas rotas filhas serem melhores que os seus pais.
  • Em raros casos, as rotas filhas sofrem o processo de mutação. Isto é feito para prevenir que todas as rotas da população sejam idênticas
  • As novas rotas filhas são inseridas na população substituindo no lugar de 2 rotas das maiores existentes. O tamanho da população se mantém constante.
  • As novas rotas filhas são repetidamente criadas até atingirem um critério de parada desejado (melhor rota).

Os dois maiores problemas encontrados usando Algoritmos Genéticos para solucionar o problema do caixeiro viajante são a codificação/representação da rota e o algoritmo de cruzamento (crossover) utilizado para combinar dois indíviduos (rotas) para gerar novos filhos.

No algoritmo genético padrão, cada cromossomo é codificado através de uma sequência de números ou bits e o cruzamento (crossover) é realizado, selecionando um ponto de corte aleatório da sequência de genes dos cromossomos-pai e após a troca de cada número na sequência a partir do ponto selecionado. Neste exemplo, o ponto de corte está entre o 3rde 4th item da lista. Para criar um filho, todos os items da sequência de genes a partir do ponto de corte são trocados entre os cromossomos pais.

Parent1F A B | E C G D
Parent2D E A | C G B F
Child1 F A B | C G B F
Child1 D E A | E C G D

A maior dificuldade do problema do caixeiro viajante é que toda cidade só pode ser usada apenas uma vez dentro de uma rota (tour). Se considerarmos que as letras apresentadas no exemplo acima representam cidades, então as rotas filhas criadas pela operação de crossover seriam consideradas inválidas. Já que Child1 vai para cidades F e B duas vezes, e nunca passa pela cidades D ou E.

A codificação das rotas não pode ser simplesmente a lista de cidades na ordem em que elas são percorridas. Outros métodos de codificação também foram criados para solucionar o problema do crossover. Embora estes métodos não criem rota inválidas, eles não levam em conta de que a rota "A B C D E F G" é a mesma rota "G F E D C B A". Para solucionar o problema do crossover, precisamos de um algoritmo mais sofisticado.

Minha solução consiste de criar links em ambas direções para cada rota. No nosso exemplo anterior, Parent1 poderia ser armazenado como:

CityFirst Connection Second Connection
AFB
BAE
CEG
DGF
EBC
FDA
GCD


A operação de crossover é mais complicada do que apenas simplesmente combinar 2 sequências. O cruzamento deve considerar todos os links existentes nas rotas pais e colocá-los nas rotas filhas. Logo, para o Child 1, são utilizados os links existentes no Parent 2 e depois no Parent 1. Para o Child 2, alterna-se entre Parent 2 e Parent 1 selecionando um diferente conjunto de links. Para ambos os filhos, há uma chane de o link criado torne a rota inválida, onde em vez de ter uma rota completa para todas as cidades, há vários trechos desconectados. Neste caso, tais links devem ser rejeitados. Para completar os links faltantes, cidades são selecionadas aleatoriamente.

Eventualmente, o algoritmo genético poderá criar soluções idênticas, o que não é o ideal. Todos indivíduos semelhantes em uma população acarreta na não convergência do algoritmo até achar a solução ótima. Para solucionar isso, usamos o processo de mutação, onde algumas rotas filhas são aleatoriamente modificadas a fim de produzir uma nova rota distinta.

Este algoritmo genético usa uma população inicial gulosa. Isto significa que o algoritmo genético não cria uma população individuos totalmente aleatória. Ele preferirá criar rotas com links entre cidades que sejam bem próximas uma das outras. Isto não é feito 100% do tempo, porque, claro, poderia acarretar na criação de uma população de rotas bastante similares.

Há 6 parâmetros para controlar a execução do Algoritmo Genético:

  • Tamanho da população- O tamanho da população é o número de quantas rotas devem ser criadas aleatoriamente quando o algoritmo é iniciado. Uma imensa população faz com que o algoritmo demore mais para encontrar a solução. Em contrapartida, uma pequena população aumenta as chances de que todas as rotas criadas sejam eventualmente bem semelhantes. Consequentemente, isto aumenta as chances de que a melhor solução não seja encontrada.
  • Seleção - A cada geração, um número N de rotas são selecionadas da população. As 2 melhores rotas são utilizadas para o cruzamento (crossover). As 2 piores rotas são substituídas pelos 2 novos filhos gerados. Um valor alto para N aumenta as chances de que rotas com alto valor de aptidão sejam escolhidas, porém pode provocar a redução de chances de outras rotas não tão boas serem escolhidas.
  • Mutação% - A taxa de mutação informa as chances de cada filho após o crossover sofram o processo de mutação. Quando uma rota é modificada, uma das cidades é aleatoriamente movida de um ponto para outro ponto dentro da rota.
  • Número máximo de gerações - Quantas gerações devem ser criadas até que a execução do algoritmo finalize. Utilizada como críterio de parada para este problema.
  • Lista de cidades - Neste programa temos a opção de importar nomes de cidades já previamente construídas ou gerá-las em tempo de execução. Em futuras versões, poderemos fazer com que sejam importadas as cidades e suas localizações a partir de um arquivo XML.
Os parâmetros iniciais do algoritmo são:

Parâmetro Valor inicial
Tam. Pop. 10,000
Seleção N 5
Mutação 3 %



Para execução, é necessário ter instalado o ambiente de execução Python (> 2.5) e o pluggin para construção de interfaces gráficas PyFltk (versão de acordo com o Python instalado na sua máquina).


Clique aqui para fazer o download do TSP GA Simulator.


Para executar, após extrair todo o conteúdo em uma pasta, basta abrir o arquivo Tsp.py pelo IDLE (ambiente de edição de arquivos) do Python e clicar em Run -> RunModule.

Vale salientar que esse simulador não é a versão final e nem tão sofisticada. Quaisquer sugestões ou melhorias são válidas para tornar este simulador mais interessante. Algumas melhorias devem ser realizadas no processo de crossover. Mandem comentários!

Referências:

Problema do caixeiro viajante - Wikipedia
Algoritmos Genéticos - UFRJ


Até a próxima!

Marcel Pinheiro Caraciolo

Computação Evolucionária: Algoritmos Genéticos

Saturday, February 28, 2009

Olá pessoal,

Neste post vamos sair um pouco do foco no tema de redes neurais, e entrarmos em outra área muito estudada e cobiçada no ramo de inteligência artificial: Computação evolutiva ou evolucionária. Mas do que se trata esse campo ?
Computação Evolutiva de fato!


Computação evolucionária

A computação evolucionária (CE) é um ramo da ciência da computação que propõe um paradigma alternativo ao processamento de dados convencional. Este novo paradigma tenta resolver problemas a partir de mecanismos evolutivos encontrados na natureza, tais como a auto-organização e o comportamento adaptativo. Esses conceitos foram introduzidos e formalizados por Charles Darwin na sua teoria da evolução natural, segundo a qual, a vida na terra é resultado de um processo de seleção, pelo meioa ambiente, do mais aptos e adaptados, e por isto mesmo com mais chances de reproduzir-se. A diversidade da vida, associada ao fato de que todos os seres vivos compartilham uma bagagem genética comum, pelo menos em termos de seus componentes básicos, é um exemplo eloqüente das possibilidades do mecanismo de evolução natural.

Um dos clássicos modelos computacionais inspirados neste paradigma (CE) são os algoritmos genéticos, o tema a ser discutido nesse post. Mas antes de entrarmos a fundo neste poderoso modelo computacional, vamos entender um pouco a sua aplicação.

Aplicações

Problemas compostos de múltiplas variáveis e diversas soluções estão presentes em uma grande variedade de problemas de otimização. Esses problemas são caracterizados por circunstâncias em que se desejam maximizar ou minimizar uma função numérica de várias variáveis, em um contexto que podem existir restrição. Apesar da existência de diversas técnicas clássicas de otimização para a solução desses tipos de problema, a sua falta de robustez e alta complexidade em problemas de alta dimensionalidade impulsionaram a busca por novas alternativas.
A sofisticação dos recursos computacionais desenvolvidos nos últimos anos tem motivado um grande avanço nas técnicas de otimização. Com isso, uma forte tendência tem acompanhado esse avanço através de estudos de métodos heurísticos que permitem encontrar soluções ótimas em diferentes espaços de busca, inclusive vários com máximos e mínimos locais. Dentre essas heurísticas, os algoritmos evolucionários têm tido grande sucesso em solucionar problemas de otimização de múltiplas soluções. Um desses algoritmos é o algoritmo genético, visto como otimizador de funções, embora a quantidade de problemas para qual os AG's se aplicam seja bastante abrangente. Então podemos resumir que os algoritmos genéticos são eficientes otimizadores de problemas de múltiplas soluções. Vamos citar alguns exemplos:

-- Problemas de otimização complexos: problemas com muitas variáveis e espaços de soluções de dimensões elevadas. Ex: problema do caixeiro viajante, gerenciamento de carteiras de fundos de investimento.

-- Otimização de funções matemáticas.

--Gerenciamento de redes: supervisão do tráfego nos links e das filas nos "buffers" de roteadores para descobrir rotas ótimas e para reconfigurar as rotas existentes no caso de falha de algum link .

-- Roteamento de veículos, otimização de solução de jogos como quebra-cabeças, cubo mágicos, etc.

Como podemos ver a gama de problemas solucionáveis por algoritmos genéticos é muito abrangente. Neste post de teor introdutório, iremos descrever o algoritmo genético através de uma implementação simples na linguagem de programação Python a fim de encontrar o máximo/mínimo de uma função númerica contínua (Otimização de funções numéricas).

O problema consiste em achar o máximo da função:

f(x) = x * sen(10*pi*x) + 1.0 ,
restrita ao inter
valo x em [-1.0,2.0]

Gráfico da função f(x) = x * sen(10*pi*x) + 1.0


Podemos observar que a função a ser otimizada é uma função multimodal com vários pontos de máximo e que para encontrarmos manualmente o máximo global é muito dispendioso em tempo e esforço. Como podemos solucionar essa busca ? Algoritmos genéticos!

Afinal ,o que são algoritmos genéticos ?

Os algoritmos genéticos são uma família de modelos computacionais inspirados na evolução, que incorporam uma solução potencial para um problema específico numa estrutura semelhante a de um cromossomo e aplicam operadores de seleção e "cross-over" a essas estruturas de forma a preservar informações críticas relativas à solução do problema.

Uma de suas vantagens é a simplificação que permite na formulação e solução de problemas otimização. Algoritmos genéticos normalmente com descrições de entradas formadas por cadeias de bits de tamanho fixo. Eles possuem um paralelismo implícito decorrente da avaliação independente de cada uma dessas cadeias de bits, ou seja, pode-se avaliar paralelamente a viabilidade de um conjunto de parâmetros para a solução do problema de otimização em questão.

Existem três tipos de representação possíveis para os cromossomos: binária, inteira ou real. A essa representação se dá o nome de alfabeto do Algoritmo Genético. De acordo com a classe de problema que se deseje resolver pode-se usar qualquer um dos três tipos.

Uma implementação de um algoritmo genético começa com uma população aleatória de cromossomos. Essas estruturas são, então, avaliadas e associadas a uma probabilidade de reprodução de tal forma que as maiores probabilidades são associadas aos cromossomos que representam uma melhor solução para o problema de otimização do que àqueles que representam uma solução pior. A aptidão da solução é tipicamente definida com relação à população corrente.

A função objetivo de um problema de otimização é construída a partir dos parâmetros envolvidos no problema. Ela fornece uma medida da proximidade da solução em relação a um conjunto de parâmteros. Os parâmetros podem ser conflitantes, ou seja, quando um aumenta o outro diminui. O objetivo é encontrar o ponto ótimo. A função objetivo permite o cálculo da aptidão bruta de cada indivíduo, que fornecerá o valor a ser usado para o cálculo de sua probabilidade de ser selecionado para reprodução.

Depois dessa explicação formal, é chegada a hora de botar a mão na massa. Vamos primeiramente resumir os principais conceitos apresentados acima e o que eles representam no mundo real. Vejam a tabela abaixo:

Tabela: Algoritmos Genéticos x Mundo Real

A idéia por trás do algoritmo genético consiste em gerar, através de regras específicas, um grande número de cromossomos (indivíduos), população, de forma a provmover uma varredura tão extensã quanto necessária do espaço de soluções. Vale salientar que cada cromossomo corresponde a um ponto no espaço de soluções do problema de otimização.

Como o código-fonte é extenso, explicarei por seções o algoritmo do algoritmo genético.

O Algoritmo dos algoritmos genéticos

A estrutura básica do algoritmo genético é mostrado na figura abaixo:

Fluxograma do Algoritmo Genético


Com referência ao fluxograma da figura acima, observa-se que cada iteração do algoritmo genético corresponde à aplicação de um conjunto de quatro operações básicas: cálculo de aptidão (fitness evaluation), seleção (selection), cruzamento (crossover) e mutação (mutation). Ao fim destas operações cria-se uma nova população, chamada de geração (generation) que, espera-se, representa uma melhor aproximação da solução (best solution) do problema de otimização que a população anterior. A população inicial é gerada atribuindo-se aleatoriamente valores aos genes (pense um gene como um repositório que armazena algo) de cada cromossomo. A aptidão bruta de um indivíduo da população é medida por uma função de erro, também chamada de função objetivo (fitness function) do problema de otimização.

A aptidão bruta é em seguida normalizada (aptidão normalizada), para permitir um melhor controle do processo de seleção. Como critérios de parada do algoritmo em geral são usados a aptidão do melhor indivíduo em conjunto com a limitação do número de gerações. Outros critérios podem envolver, por exemplo, um erro abaixo de um valor especificado pelo projetista para um determinado parâmetro do problema.

Vamos aos passos do algoritmo:

Inicialização (Generation of population)

Uma população de P individuos é gerada aleatoriamente. Cada um dos indivíduos da população representa uma possível solução para o problema, ou seja, um ponto no espaço de soluções.


"""
Represents a possible solution for the problem
"""
import random
import math

MAXIMIZE,MINIMIZE = (0,1)

STR_DELIMITER = ''

class Individual(object):

#The length of the chromosome
length = 22
#Values that the gene can be
alleles = (0,1)
#Function range
range = (-1.0,2.0)
#Optimization's type
optimization = MAXIMIZE

#Creates a simple individual
#@param chromosome: Data Structure that codificates the solution of the problem.
def __init__(self,chromosome=None):
#The Fitness score
self.score = None
#Collection of genes.
self.chromosome = chromosome or self._makeChromosome()

#Creates a new chromosome made up of genes limited by its length.
def _makeChromosome(self):
return [random.choice(self.alleles) for gene in xrange(self.length)]

#Evaluates the fitness score
#@param optimum: Optimization method
def evaluate(self,optimum=None):
#Decodification of the chromosome
coff = float(int(STR_DELIMITER.join(map(str,self.chromosome)),2)) / float(pow(2,self.length) - 1)
x = self.range[0] + (self.range[1] - self.range[0]) * coff
#Evaluation of the function
y = x * math.sin(10.0 * math.pi * x) + 1.0
#Calculates the fitness score
self.score = y

#combination of the parents to produce a new child
def crossover(self,mate):
#Two-point crossover
return self._twopoint(mate)

#Create a new individual replacing a gene allele with a random one.
#@param gene: The gene of chromosome
def mutate(self,gene):
self._pick(gene)

##Invert the gene's allele to create a new individual.
#param gene: The gene that will be replaced.
def _pick(self,gene):
self.chromosome[gene] = int(not self.chromosome[gene])

#Creates offspring via two-point crossover between mates."
#param mate: the other mate
def _twopoint(self,other):
left,right = self._pickPivots()
def mate(p0,p1):
#Creates a new copy of p0.
chromosome = p0.chromosome[:]
#Two-point crossover
chromosome[left:right] = p1.chromosome[left:right]
child = p0.__class__(chromosome)
child.repair(p0,p1)
return child
return mate(self,other), mate(other,self)

#Helper function to get the cutting point.
def _pickPivots(self):
left = random.randrange(1,self.length-2)
right = random.randrange(left,self.length-1)
return left,right

#Crossover helper, if necessary, to fix duplicated genes
#@param parent1 : The mate 01
#@param parent2 : The mate 02
def repair(self,p0,p1):
pass

#Returns string representation of itself
def __repr__(self):
return '<%s chromosome="%s" score=%s>' % \
(self.__class__.__name__,
STR_DELIMITER.join(map(str,self.chromosome)),self.score)

#The comparison method with other individual
#@param other: The other individual that will be compared.
def __cmp__(self,other):
if self.optimization == MINIMIZE:
return cmp(self.score,other.score)
else:
#MAXIMIZE
return cmp(other.score,self.score)

#Creates a replicate of itself.
def copy(self):
clone = self.__class__(self.chromosome[:])
clone.score = self.score
return clone


"""
Enviroment necessary to run the Genetic Algorithm.
"""
class Environment(object):
#Initialize the enviroment parameters necessary to run the algorithm.
#@param population : The initial population of individuals.
#@param size: Size of the population.
#@param maxgenerations: The maximum generations.
#@param crossover_rate: Crossover rate.
#@param mutation_rate: Mutation rate.
#@param optimum : Optimization type.
def __init__(self,population=None,size=100,maxgenerations=100,
crossover_rate=0.90,mutation_rate=0.01,optimum=None):
#Size of the population
self.size = size
#Optimization method
self.optimum = optimum
#Initialize the population
self.population = population or self._makePopulation()
#Start the evaluation of the population
for individual in self.population:
individual.evaluate(self.optimum)
#Crossover rate
self.crossover_rate = crossover_rate
#Mutation rate
self.mutation_rate = mutation_rate
#Max number of generations
self.maxGenerations = maxgenerations
#Initialize the generation
self.generation = 0
#Report the algorithm running status
self.report()

#Initialize the population (Generate the individuals)
def _makePopulation(self):
return [Individual() for individual in xrange(self.size)]

(...)


Calculo da aptidão (Evaluation of fitness)

Geralmente a aptidão do indivíduo é determinada através do cálculo da função objetivo, que depende das especificações de projeto. Neste projeto, cada indivíduo é uma entrada para uma função de análise de desempenho (evaluate), cuja saída fornece medidas que permitem ao algoritmo genético o cálculo da aptidão do indivíduo. Ainda nesta fase os indivíduos são ordenados conforme a sua aptidão.


#Evaluates the fitness score
#@param optimum: Optimization method
def evaluate(self,optimum=None):

#Decodification of the chromosome
coff = float(int(STR_DELIMITER.join(map(str,self.chromosome)),2)) / float(pow(2,self.length) - 1)
x = self.range[0] + (self.range[1] - self.range[0]) * coff
#Evaluation of the function
y = x * math.sin(10.0 * math.pi * x) + 1.0
#Calculates the fitness score
self.score = y


Seleção (Selection)

Nesta fase os indivíduos mais aptos da geração atual são selecionados. Esses indivíduos são utilizados para gerar uma nova população por cruzamento. São selecionados os n melhores indivíduos daquela geração e depois faz uma espécie de torneio. Neste método, denominado "amostragem universal estocática", cada indivíduo tem uma probabilidade de ser selecionado proporcional à sua aptidão. Para visualizar este método considere um círculo dividido em n regiões (tamanho da população), onde a área de cada região é proporcional à aptidão do indivíduo.Coloca-se sobre este círculo uma "roleta" com n cursores, igualmente espaçados. Após um giro da roleta a posição dos cursores indica os indivíduos selecionados. Isto significa que quanto melhores são os cromossomos, mais chances de serem selecionados. O lado de cada secção da roleta é proporcional ao valor de adequação (aptidão) de cada cromossomo: quanto maio valor, mais larga a secção. Veja a imagem a seguir para um exemplo:

Método de seleção de cromossomos por Roleta

Evidentemente, tais condições são mensuradas por valores, que quando elevados, o melhor indivíduo da população terá maior probabilidade de ser selecionado várias vezes. Como consequência, a seleção de indivíduos pode conter várias cópias de um mesmo indivíduo enquanto outros podem desaparecer.




class Environment(object):
(...)

#The step-by-step running algorithm
def run(self):
while not self._goal():
self.step()

#The conditions to stop the algorithm.
def _goal(self):
return (self.generation > self.maxGenerations) or (self.best.score == self.optimum)

#The step done by the genetic algorithm
def step(self):
#Sort the individuals of the population based on their score
self.population.sort()
#Make the crossover
self._crossover()
#Increments the generation
self.generation+=1
#Report the current status
self.report()

(...)

#Selection method of the individuals for crossover
def _select(self):
return self._tournament()

(...)

#sample selection method
def _tournament(self):
competitors = []
total_score = sum([math.ceil(self.population[i].score) for i in xrange(self.size)])
for index in xrange(self.size):
temp = [index] * int((math.ceil(self.population[index].score /total_score) * 100))
competitors.extend(temp)

return self.population[random.choice(competitors)]

(...)


Cruzamento (Crossover)

Os indivíduos selecionados na etapa anterior são cruzados. A forma como se realiza este cruzamento é ilustrada na figura abaixo. Os cromossomos de cada par de indivíduos a serem cruzados são particionados em um ponto, chamado ponto de corte, sorteado aleatoriamente. Um novo cromossomo é gerado permutando-se a metade inicial de um cromossomo coma metade final do outro. Deve-se notar que se o cromossomo for representado por uma cadeia de bits, como na figura figura 3, o ponto de corte pode incidir em qualquer posição (bit) no interior de um gene, não importando os limites do gene. No caso de genes representados por números reais, a menor unidade do cromossomo que pode ser permutada é o gene.

Exemplo de crossover com genes (bits)





class Environment(object):
(...)

#Crossover proccess
def _crossover(self):
#Elistism proccess (best individual is copied to the next generation)
next_population = [self.best.copy()]
while len(next_population) < self.size:
mate1 = self._select()
if random.random() < self.crossover_rate:
mate2 = self._select()
offspring = mate1.crossover(mate2)
else:
#make a copy of individual
offspring = [mate1.copy()]
for individual in offspring:
self._mutate(individual)
individual.evaluate(self.optimum)
next_population.append(individual)
self.population = next_population[:self.size]

(...)





Mutação (Mutation)

A operação de mutação é utilizada para garantir uma maior varredura do espaço de estados e evitar que o algoritmo genético convirja muito cedo para mínimos locais. A mutação é efetuada alterando-se o valor de um gene de um indivíduo sorteado aleatoriamente com uma determinada probabilidade, denominada probabilidade de mutação, ou seja, vários indivíduos da nova população podem ter um de seus genes alterado aleatoriamente.


class Environment(object):
(...)

#Mutation method.
#@param individual: Individual to be mutated.
def _mutate(self,individual):
for gene in xrange(individual.length):
if random.random() < self.mutation_rate:
individual.mutate(gene)

#Get the individual with best fitness score in population.
def best():
def fget(self):
return self.population[0]
return locals()
best = property(**best())

#Shows the results report
def report(self):
print "="*70
print "generation: " , self.generation
print "best: " , self.best


Para executarmos o código demonstrado acima, instanciamos a classe Enviroment passando como parâmetros o tamanho da população, número máximo de gerações, o ótimo global (pode er usado também como condição de parada) e as taxas de crossover e mutação respectivamente,de acordo com o tipo de problema em questão. Neste pequeno exemplo, tentamos solucionar um problema de maximização, onde a solução ótima se encontra no valor x = 1,85055 f(x) = 2,85027.


#########################################################################
"""
Main loop
"""
if __name__ == "__main__":
env = Environment(maxgenerations=50, optimum=2.85026911722)
env.run()



Executando o código acima, temos o seguinte resultado no console. (A partir da geração 26 já se tem o valor máximo da função a ser buscada):





generation: 25
best: Individual chromosome="1111001100101010101110" score=2.84947534214
======================================================================
generation: 26
best: Individual chromosome="1111001100101111011110" score=2.84980345657
======================================================================
generation: 27
best: Individual chromosome="1111001100111111011110" score=2.85027356577

======================================================================
generation: 28
best: Individual chromosome="1111001100111111011110" score=2.85027356577
======================================================================
generation: 29
best: Individual chromosome="1111001100111111011110" score=2.85027356577
======================================================================
generation: 30
best: Individual chromosome="1111001100111111011110" score=2.85027356577
======================================================================
generation: 31
best: Individual chromosome="1111001100111111011100" score=2.85027360267



Como se pode observar, algoritmos genéticos prova-se ser bastante eficiente na solução de problemas de otimização, garantido convergir à solução ótima. É claro, que há casos de problemas mais complexos, com diversas regiões de mínimos locais, que exigem do projetista uma análise mais refinada na forma de como o cromossomo é codificado, (representação da solução no algoritmo genético) e além de vários parâmetros do algoritmo que podem ser escolhidos para melhorar o seu desempenho, adaptando-o às características particulares de determinadas classes de problemas. Entre eles os mais importantes são: o tamanho da população, o número de gerações, a probabilidade de cross-over e a probabilidade de mutação.

A influência de cada parâmetro no desempenho do algoritmo depende da classe de problemas que se está tratando. Assim, a determinação de um conjunto de valores otimizado para estes parâmetros dependerá da realização de um grande número de experimentos e testes. Na maioria da literatura os valores encontrados estão na faixa de 60 a 65% para a probabilidade de cross-over e entre 0,1 e 5% para a probabilidade de mutação. O tamanho da população e o número de gerações dependem da complexidade do problema de otimização e devem ser determinados experimentalmente. No entanto, deve ser observado que o tamanho da população e o número de gerações definem diretamente o tamanho do espaço de busca a ser coberto. Existem estudos que utilizam um AG como método de otimização para a escolha dos parâmetros de outro AG, devido à importância da escolha correta destes parâmetros.


É isso pessoal, recomendo a leitura deste artigo do autor Márcio Nunes de Miranda (UFRJ) utilizado como referência principal para a construção deste tutorial. O download do código acima está disponível neste link. Espero que tenha sido útil!

No próximo post, irei trazer um problema mais "realista" de otimização para ser solucionado pela técnica evolucionária dos algoritmos genéticos.

Até a próxima!

Marcel P. Caraciolo


Aprenda a aplicar a inteligencia artificial em seus jogos: Teoria dos Jogos Minimax

Friday, January 30, 2009

Olá a todos,

Eu estava escrevendo um pequeno tutorial de desenvolvimento de aplicativos móveis, e um dos aplicativos que utilizei como exemplo foi a c
onstrução de um simples jogo da velha, conhecido também como Tic Tac Toe. O jogo foi desenvolvido para ser jogado entre um jogador humano e um jogador controlado pelo computador. No exemplo que desenvolvi , os movimentos jogados pelo jogador controlado pelo computador são aleatórios, ou seja, não há uma lógica por trás das jogadas do PC e nem uma análise prévia das jogadas do adversário. A fim de tornar o algoritmo do jogo mais simples, tomei a decisão de fazer um algoritmo com movimentações aleatórias. Mas, pensei: "Eu poderia dificultar mais as coisas, e poderia aplicar conceitos básicos de inteligência artificial neste jogo, a fim de deixar o jogador controlado pelo computador mais desafiador!" .

E este é o foco deste artigo, irei utilizar o jogo da velha como base para aplicação de conceitos de inteligência artificial, especificamente, introduzir um dos clássicos teoremas de jogos: A
Teoria de decisão ou Minimax.


"Quanta coisa pode-se aprender com um simples jogo da velha."

O jogo da velha é um jogo composto por um tabuleiro de matriz de três linhas por três colunas onde dois jogadores se enfrentam. Ganha o o jogador que conseguir três círculos ou três xis 'X' em linha, seja vertical, horizontal ou diagonal.

Aproveitei o jogo que foi desenvolvido na linguagem de programação Python portado para celulares Symbian S60 que pode ser executado no aparelho ou através de um emulador. Mais informações ver estes dois artigos explicando sobre a plataforma PyS60.

Quem joga?

A partida será disputada entre o jogador humano contra programas ou agente inteligentes desenvolvidos por outro jogador ou fornecidos pela própria empresa desenvolvedora do game. Mas o que seria agentes inteligentes ?

A Inteligência Artificial

O jogo da velha pode ser dividido e tratado em agente e ambiente. O agente seria o jogador, que percebe o seu ambiente por meio de sensores (os parâmetros) e age sobre o ambiente por intermédio de atuadores, isto é, o valor retornado com as coordenadas da jogada.

Fiz uma busca mais refinada, e encontrei mais informações sobre a definição de ambiente, e o mesmo pode ser definido como:

Completamente observável
Os agentes tem acesso ao estado completo do ambiente. Os sensores detectam todos os aspectos que são relevantes para a escolha da ação. A cada jogada o jogador recebe a matriz do tabuleiro atualizada.
Estratégico
O próximo estado do ambiente é completamente determinado pelo estado atual e pela ação executada pelos agentes.
Seqüencial
A decisão afeta todas as ações futuras. Ações em curto prazo podem ter conseqüências a longo prazo. O jogador faz uma jogada, o próximo jogador pode dar continuidade a sua jogada anterior, como também se defender ou iniciar uma nova jogada.
Estático
O ambiente não se altera enquanto o agente está decidindo sobre a realização de uma ação, nem precisa se preocupar com a passagem do tempo.
Discreto
O ambiente tem um número finito de estados distintos, também tem um número discreto de percepções e ações.
Multiagente
O agente está em um ambiente de dois agentes, o jogo precisa de dois jogadores pra disputar a partida.
Existem 2 tipos de agentes inteligentes para o jogo da velha: o agente que faz a melhor jogada analisando a situação atual, o que significa que para sua próxima jogada o seu movimento atual vai ser realmente útil; e o agente que planeja as suas jogadas, este que age com estratégia. O agente que faz a melhor jogada olha para o tabuleiro e se pergunta: "O que pode me fazer ganhar ou perder ?" . Já o agente estratégico pode fazer jogadas que aparentemente não tem sentido, mas que futuramente vão decidir a partida.

Teoria da decisão, Minimax ou Minmax

Minimax lida com jogos como jogo da velha, no qual cada jogador pode ganhar, perder ou empatar. No nosso exemplo específico que é o jogo da Velha, você pode considerar que após a sua jogada, o adversário vai escolher a melhor jogada possível e então você a partir dessa melhor jogada já pensa na melhor que você pode fazer e assim sucessivamente. Por exemplo, vamos chamar um jogador de MIN e outro de MAX (daí veio nome: MINIMAX). O jogador MAX sempre considera que MIN vai escolher a jogada que o deixa na pior situação (pior caso para MAX) e que ele (o MAX) vai escolher a melhor jogada para si. O algoritmo minimax ajuda a encontrar a melhor jogada ao caminha pelas opções válidas a partir do fim do jogo. A cada passo assume-e que o jogador MAX está tentando maximizar as chances de MAX ganhar, enquanto na próxima rodada o jogador MIN está tentando minimizar as chances de isso acontecer (ao maximizar as chances de que ele próprio ganhe).

Resumindo, o jogador usando o algoritmo miniMax constrói uma árvore de jogadas achando que ambos (ele mesmo e o adversário) sempre escolherão soluções ótimas para si mesmos. Veja um exemplo de uma possível parte de uma árvore de jogo da velha. Atente apenas para o detalhe que nessa árvore temos a impressão que começou no MIN, quando na verdade começa no MAX. Eu escolhi essa parte do meio da árvore.


http://www.rodrigovaz.xpg.com.br/ajm.png

Árvore de busca de uma partida de Jogo da velha

Os números que você vê ao fundo representam o VALOR MINIMAX(n). Esse valor é apenas um “indicativo” de utilidade para o jogador MAX, ou seja, quanto MAIOR O VALOR da jogada do jogador MIN, melhor para o MAX e quanto MENOR O VALOR da jogada do jogador MAX, melhor para o MIN. No caso acima os números indicam as chances de se ganhar com a jogada correspondente. Caso você faça a jogada no centro do tabuleiro, o computador irá, com certeza, fazer a jogada no canto superior esquerdo. Repare que o MIN escolhe o mínimo valor e o MAX escolhe o máximo valor.

É a sua vez de jogar, o que você escolheria? Fazer um movimento de defesa impedindo que oponente vença na próxima jogada, iniciar um nova estratégia, continuar com a sua estratégia de jogadas anteriores ou fazer o movimento para a vitória? Separe os tipos de jogadas e estabeleça prioridades. É preferível vencer que impedir que o adversário vença na próxima jogada.

O Jogo

Tictactoe é responsável pelas regras e execução do jogo. Os jogadores são inseridos no tabuleiro e o jogo é iniciado.

As regras do jogo são bem simples:

  • O tabuleiro é uma matriz quadrada de três linhas por três colunas (3x3). O valor mínimo e máximo para a coordenada é respectivamente 0 e 2.
  • Em cada jogada o jogador recebe por parâmetro a matriz atualizada do tabuleiro e a sua marcação, caractere "x" (xis) ou "o" (círculo).
  • O jogador vence quando conseguir três "o" (círculos) ou três "x" (xis) em linha, seja vertical, horizontal ou diagonal. Caso contrário, a partida se dá como empate.
O código-fonte do jogo é composto por várias classes: Keyboard (responsável pelo tratamento de eventos), Game (responsável pela lógica principal do jogo) e GameBoard(responsável pelas jogadas e pintura e desenho na tela dos elementos do jogo). O foco deste tutorial não é detalhar as implementações de todas estas classes, e sim na implementação das jogadas, em especial, as jogadas feitas pelo jogador adversário controlado pelo programa. Detalhes sobre as implementações e particularidades da linguagem PyS60, visitem estes links: link1 e link2. São artigos publicados de minha autoria introduzindo o leitor ao desenvolvimento de aplicativos móveis em Python para celulares Symbian S60, que contêm, inclusive, todo os procedimentos de desenvolvimento deste jogo.

Código-Fonte (Classe Game):


class Game:

def quit(self):
self.running = False
self.trava.signal()

def newGame(self):
global canvas, gameboard, keyboard, buf

#Obtem o objeto "lock" da aplicação (trava).
self.trava = e32.Ao_lock()

#Seta a função quit() como callback do evento ExitKey.
appuifw.app.exit_key_handler=self.quit

#Instancia a classe Keyboard (tratamento de eventos de teclado)
keyboard = KeyBoard()

#Seta a aplicação para ocupar toda a tela.
appuifw.app.screen="full"

#Cria um novo objeto canvas e seta os respectivos callbacks (pintura e eventos)
canvas=appuifw.Canvas(event_callback=keyboard.handle_event, redraw_callback=handle_redraw)

#Cria uma nova imagem (buffer)
buf=graphics.Image.new((240,320))

#Instancia a classe GameBoard (Pintura do tabuleiro e elementos do jogo)
gameboard = GameBoard()

#Seta corpo da aplicação para o objeto canvas.
appuifw.app.body=canvas

#Para manter o registro de qual jogador irá jogar na rodada,
#utilizamos a variavel turn (1 para o telefone, 2 para o jogador)
#O jogador começa o jogo
self.turn=2

#Variável para verificar se a partida foi encerrada.
self.gameover=False

#Variavel que verifica se a aplicação está em execução (True para Em Execução , False para Finalizado)
self.running = True

#Loop de controle que move o cursor vermelho na tela de acordo com os eventos de teclado
while self.running:
#Inicializa o menu
appuifw.app.menu=[(u"Novo jogo", self.newGame), (u"Sair", self.quit)]

#SoftKey Direito for pressionado, sair do aplicativo.
if(keyboard.pressed(key_codes.EScancodeRightSoftkey)):
self.quit()

#Quando for a vez do jogador jogar
if(self.turn==2):
self.turn = gameboard.playerTurn()


#Checamos se o jogo foi finalizado. Isto acontece se um dos jogadores completou a
#sequência contínua de 3 símbolos ou se a matriz está cheia.
self.gameover = gameboard.hasWinner()
if self.gameover == True:
if(appuifw.query(u"Fim de jogo. Jogar de novo?", "query")):
self.newGame()
else:
self.quit()

#Se for o turno do jogador 'Telefone' e se o jogo ainda não estiver ainda finalizado...
while((self.turn==1) and (self.gameover==False)):
self.turn = gameboard.phoneTurn()

e32.ao_yield()


Primeiramente, vejamos o código-fonte da Classe Game. Existem 2 funções particulares que são chamadas durante a ação do jogo: phoneTurn() e playerTurn() (Em negrito no código acima). Estas funções contêm as implementações necessárias para a tomada de decisão e movimentação das jogadas pelos jogadores. Vamos focar, especificamente, na função phoneTurn() que está encapsulada na classe GameBoard. Ela é responsável pelas jogadas controladas pelo telefone (programa) e é o alvo deste artigo.

Código-Fonte (Classe GameBoard):

class GameBoard:
def __init__(self):
global game_state
#A fim de manter na memória o estado do jogo, utilizamos uma matriz preenchida de:
#0 se o quadrado estiver vazio, 1 se o quadrado for ocupado por uma jogada do Fone
#e 2 se o quadrado for ocupado por uma jogada do jogador. (3 x 3)
game_state=[[0,0,0],[0,0,0],[0,0,0]]

#Escrever X ou O requer as coordenadas pré-definidas.
self.xcoord=[32,112,192]
self.ycoord=[65,172,279]

#Para mostrar onde o cursor do jogador se posiciona,
#Colocamos um ponto vermelho (No início do jogo, ele é inicializado no meio da matriz)
self.dotx=self.doty=1

#Pinta o tabuleiro do Jogo
self.drawgrid()

(...)

def phoneTurn(self):
global game_state
turn = 1
px=random.choice([0,1,2])
py=random.choice([0,1,2])
if(game_state[px][py]==0):
buf.text((self.xcoord[px],self.ycoord[py]), u"O", font="title")
game_state[px][py]=1
handle_redraw(())
self.drawgrid()
turn=2
return turn

Jogador RandomPlayer

RandomPlayer é um jogador randômico, aposta na sorte e foi utilizado neste primeiro exemplo do jogo da velha. Como podemos visualizar na definição da função phoneTurn(), ele simplesmente lê o estado atual do tabuleiro, sorteia uma jogada (função random.choice())e depois verifica se tal posição está livre para ser jogada. Caso contrário, sorteia novamente até encontrar uma posição livre. A chance do RandomPlayer ganhar uma partida contra um jogador humano é muito baixa, especialmente por não analisar ou prever jogadas baseado no estado atual do tabuleiro do jogo.

Jogador MiniMax

MiniMax é um jogador inteligente. Estou implementando algoritmos de aprendizado nele, este aqui demonstrado implementa decisão por heurística (MINMAX), apresentado anteriormente. Ele é capaz de examinar várias sequências de movimenotos a fim tomar a decisão de jgada que o leve à vitória. Ele tenta maximizar a probabilidade de vitória, e ao mesmo tempo assume que o oponente tentará minimizar esta probabilidade. A idéia do algoritmo é iniciar na posição corrente e usar um gerador de movimentos plausíveis (uma árvore de jogadas) para gerar o conjunto de possíveis jogadas sucessoras. Então, aplica-se a função de avaliação estática (notas) à essas jogadas e simplesmente escolhe-se a melhor.

Vamos ao código do mesmo:


class GameBoard:
def __init__(self):
global game_state
#A fim de manter na memória o estado do jogo, utilizamos uma matriz preenchida de:
#0 se o quadrado estiver vazio, 1 se o quadrado for ocupado por uma jogada do Fone
#e 2 se o quadrado for ocupado por uma jogada do jogador. (3 x 3)
game_state=[[0,0,0],[0,0,0],[0,0,0]]

#Variável que armazena todas as possíveis sequências de posições que levam à vitória do jogo.
self.end_game_state = [[(0,0),(0,1),(0,2)],[(1,0),(1,1),(1,2)],[(2,0),(2,1),(2,2)],
[(0,0),(1,0),(2,0)],[(0,1),(1,1),(2,1)],[(0,2),(1,2),(2,2)],
[(0,0),(1,1),(2,2)],[(0,2),(1,1),(2,0)]]

(...)

(...)

def getValidMoves(self,board):
#Analisa o tabuleiro e retorna as posições que ainda estão vazias.
possible_moves = list()
for i in range(3):
for j in range(3):
if board[i][j] == 0:
possible_moves.append((i,j))
return possible_moves

def judge(self,board):
#Verifica o estado final do tabuleiro:
# (+1 Vitoria do fone, -1 Vitoria do Humano, 0 Empate)
winning_rows = list(self.end_game_state)
winner = None
for row in winning_rows:
row_win = [board[x][y] for x,y in row]
if row_win == [1,1,1]:
winner = 1
break
elif row_win == [2,2,2]:
winner = 2
break
if winner == 1:
return 1
if winner == None:
return 0
return -1


def hasEnded(self,board):
#Checa se o jogo foi finalizado. Isto acontece se um dos jogadores completou a
#sequência contínua de 3 símbolos ou se a matriz está cheia.
winning_rows = list(self.end_game_state)
gameover=True
for i in range(3):
for j in range(3):
if(board[i-1][j-1]==0):
gameover=False
for row in winning_rows:
row_winner = [board[x][y] for x,y in row]
if row_winner == [1,1,1] or row_winner == [2,2,2]:
gameover = True
break
return gameover

def maxValue(self,board):
#Checa se o jogo foi finalizado (Vitória ou empate).
if self.hasEnded(board):
#Retorna o estado final do jogo
#(+1 Vitoria do fone, -1 Vitoria do Humano, 0 Empate)
return self.judge(board)

#Obtem todas as possiveis jogadas.
possible_moves = self.getValidMoves(board)
#Armazena a jogada que tem o melhor score.
bestScore = -100
for possible_move in possible_moves:
new_game_state = eval(repr(board))
#Telefone joga.
px,py = possible_move
new_game_state[px][py] = 1
#Obtem o minimo do proximo nivel (MIN).
score = self.minValue(new_game_state)
#Pega o maior score dos piores analisados.
if score >= bestScore:
bestScore = score

return bestScore


def minValue(self,board):
#Checa se o jogo foi finalizado (Vitória ou empate).
if self.hasEnded(board):
#Retorna o estado final do jogo
#(+1 Vitoria do fone, -1 Vitoria do Humano, 0 Empate)
return self.judge(board)

#Obtem todas as possiveis jogadas.
possible_moves = self.getValidMoves(board)
#Armazena a jogada que tem o pior score.
bestScore = 100
for possible_move in possible_moves:
new_game_state = eval(repr(board))
#Jogador joga.
px,py = possible_move
new_game_state[px][py] = 2
#Obtem o maximo do proximo nivel (MAX).
score = self.maxValue(new_game_state)
#Pega o menor score dos melhores analisados.
if score <= bestScore:
bestScore = score

return bestScore

def phoneDecision(self):
#Testa todas jogadas possiveis.
possible_moves = self.getValidMoves(game_state)
#Armazena a jogada que tem o melhor score.
bestScore = -100
#Se possui mais de uma jogada disponivel.
if len(possible_moves) > 1:
for possible_move in possible_moves:
new_game_state = eval(repr(game_state))
#Inicia com a jogada do telefone.
px,py = possible_move
new_game_state[px][py] = 1
#Obtem o minimo do proximo nivel (MIN).
score = self.minValue(new_game_state)
#Pega o maior score dos piores analisados.
if score >= bestScore:
move = possible_move
bestScore = score
else:
#Apenas uma única jogada, esta será a jogada do telefone.
move = possible_moves[0]

return move


def phoneTurn(self):
global game_state
turn = 1
px,py = self.phoneDecision()
if(game_state[px][py]==0):
buf.text((self.xcoord[px],self.ycoord[py]), u"O", font="title")
game_state[px][py]=1
handle_redraw(())
self.drawgrid()
turn=2
return turn

Observem a implementação da função phoneTurn(). Decidimos substituir as chamadas das funções de sorteio aleatória de jogadas pela função phoneDecision(). A idéia é que quando for o turno do jogador 1 (telefone) realizar a sua jogada, uma árvore seja criada com o nó raiz sendo seu nível atual (ply1), ou seja o estado do tabuleiro antes de realizar a sua jogada. Todos os possíveis movimentos que o jogador 1 (fone) a partir daquele estado são mapeados no próximo nível (ply2). O próximo nível (ply3) abriga todas as contra-jogadas possíveis pelo jogador2 (humano) após os movimentos realizados no nível ply2. Esse padrão continua alternadamente entre movimentos possíveis do jogador1 e jogador2 até chegar em uma configuração do tabuleiro que há uma vitória de um dos jogadores ou há um empate (não é mais possível realizar jogadas no tabuleiro). A árvore de jogadas para um simples jogo da velha é geralmente composto por 4 a 6 níveis de altura. Isto significa que até este jogo pode construir uma árvore de jogadas um pouco grande para ser armazenada na memória ou para ser totalmente percorrida em um tempo razoável, especialmente quando estamos tentando implementar um jogo para um aparelho móvel que não possui o mesmo poder de processamento e memória que um PC. Irei em breve discutir sobre como reduzir o tamanho da árvore em breve. Temporariamente, vamos assumir que os nós finais (folhas) da árvore representem o estado final (fim do jogo), o qual se pode obter um valor. Este valor em cada folha da árvore representa uma nota de avaliação do jogo pela perspectiva do jogador 1 (fone). Um alto valor representa uma vantagem para o jogador1 enquanto um valor baixo representa uma desvantagem. Veja a implementação da função judge(). Ela é responsável por obter a nota de avaliação no fim do jogo. Para este jogo da velha, especificamos que +1 seria o valor retornado para caso fosse a vitória do jogador1, -1 para derrota e 0 para caso de empate.

Faria sentido se no ponto de vista do jogador1 (fone) pegasse o nó da árvore que tivesse o maior valor. Porém, não faria sentido para o jogador2 (humano), já que para os seus interesses em vencer o jogo não selecionaria os maiores valores para o jogador 1. Isto acarreta num sistema alternado de avaliações, no qual os valores são propagados até o topo da árvore. O jogador1 está interessado em maximizar os valores, já o jogador2 está interessado em minimizar tais valores. Isto vem da premissa que cada jogador irá fazer a melhor jogada para eles.

Exemplo de árvore de jogadas


Uma vez que árvore foi gerada, uma busca por profundidade é realizada na árvore com o objetivo de propagar os valores das folhas da árvore (ply3) até o topo da árvore. Entretanto cada nível (ply) tem um conjunto diferente de regras de como cada valor é enviado até o nó raiz. Os níveis representando as jogadas do jogador1 (fone), os níveis pares, são considerados os níveis MAX. Os níveis ímpares (excluindo a raiz) são considerados os níveis MIN. Os níveis MAX irão enviar os melhores valores (scores) dos piores analisados vindos do nível mais abaixo, enquanto os níveis MIN irão enviar os piores valores dos melhores analisados do nível mais abaixo.

Observem a implementação das funções minValue() e maxValue(). Eles são funções bastante similares, com a diferença que em maxValue ele recebe um nó (estado atual do tabuleiro após feita as jogadas) e caminha sobre os nós- filho em busca dos melhores valores. Já o minValue faz o mesmo exceto que ele procura pelos piores valores. Vejam a figura neste link que ilustra bem o algoritmo minimax em ação.

Otimização por cortes Alpha-Beta

Imagine uma árvore de todas as jogadas possíveis de um jogo da velha. Mesmo com um tabuleiro com apenas nove posições, isto dá uma árvore com mais de 9! (362.880) nós. Em jogos como xadrez, onde as peças podem se movimentar em diversas direções, as árvores geradas nesses jogos com apenas alguns níveis podem levar a tamanhos gigantescos. Só para ter uma idéia, uma jogada de abertura de uma partida de xadrez tem mais 20 diferentes opções!

Pelo algoritmo descrito acima, a busca por profundidade pelo qual visitamos todos os nós da árvore é extremamente lenta, quando implementamos o mesmo em um jogo portado para um aparelho móvel. Algumas otimizações podem ser feitas a fim de tornar a busca mais eficiente e rápida. Uma delas bastante utilizadas na literatura, é o Alpha-beta shortcutting. Vamos incrementar o nosso código acima apresentado incluindo a técnica de cortes Alpha-beta e explicar como o mesmo funciona.


Vejamos o código abaixo:



class GameBoard:

(...)

def maxValue(self,board,alpha,beta):
#Checa se o jogo foi finalizado (Vitória ou empate).
if self.hasEnded(board):
#Retorna o estado final do jogo (+1 Vitoria do fone, -1 Vitoria do Humano, 0 Empate)
return self.judge(board)

#Obtem todas as possiveis jogadas.
possible_moves = self.getValidMoves(board)
#Armazena a jogada que tem o melhor score.
bestScore = -100
for possible_move in possible_moves:
new_game_state = eval(repr(board))
#Telefone joga.
px,py = possible_move
new_game_state[px][py] = 1
#Obtem o minimo do proximo nivel (MIN).
score = self.minValue(new_game_state,alpha,beta)
#Pega o maior score dos piores analisados.
if score >= bestScore:
bestScore = score
alpha = bestScore
if alpha >= beta:
return alpha

return bestScore


def minValue(self,board,alpha,beta):
#Checa se o jogo foi finalizado (Vitória ou empate).
if self.hasEnded(board):
#Retorna o estado final do jogo (+1 Vitoria do fone, -1 Vitoria do Humano, 0 Empate)
return self.judge(board)

#Obtem todas as possiveis jogadas.
possible_moves = self.getValidMoves(board)
#Armazena a jogada que tem o pior score.
bestScore = 100

for possible_move in possible_moves:
new_game_state = eval(repr(board))
#Jogador joga.
px,py = possible_move
new_game_state[px][py] = 2
#Obtem o maximo do proximo nivel (MAX).
score = self.maxValue(new_game_state,alpha,beta)
#Pega o menor score dos melhores analisados.
if score <= bestScore:
bestScore = score
beta = score
if beta <= alpha:
return beta

return bestScore


def phoneDecision(self):
#Testa todas jogadas possiveis.
possible_moves = self.getValidMoves(game_state)
#Armazena a jogada que tem o melhor score.
bestScore = -100
#Melhor score encontrado por MAX ate este nivel.
alpha = -100
#Melhor score encontrado por MIN ate este nivel.
beta = 100
#Se possui mais de uma jogada disponivel.
if len(possible_moves) > 1:
for possible_move in possible_moves:
new_game_state = eval(repr(game_state))
#Inicia com a jogada do telefone.
px,py = possible_move
new_game_state[px][py] = 1
#Obtem o minimo do proximo nivel (MIN).
score = self.minValue(new_game_state,alpha,beta)
#Pega o maior score dos piores analisados.
if score >= bestScore:
move = possible_move
bestScore = score
alpha = score
if alpha >= beta:
break
else:
#Como so existe uma única jogada, esta será a jogada do telefone.
move = possible_moves[0]

return move

(...)

Com apenas algumas linhas de código adicionais, nós aumentamos a eficiência do algoritmo minimax com a inclusão da variação de cortes alpha-beta. Esta técnica permite a omissão de alguns "ramos" da árvore de jogadas possíveis na busca da melhor jogada. Para isso, são introduzidos os limites Alpha e Beta, sendo Alpha o valor mínimo que se garante que o MAX obtenha, e o Beta o valor máximo que o MAX pode esperar obter. Logo, o valor final obtido encontrar-se-á entre este dois limites, considerada uma jogada que seja suficientemente boa (não necessariamente a melhor) para conduzir à decisão correta. No pior caso, o algoritmo alpha-beta visitará exatamente as mesmas posições que visita o algoritmo minimax simples, não havendo nesse caso vantagem deste algoritmo em relação ao minimax exaustivo. No entanto, está provado que no melhor caso (quando a jogada mais forte é considerada primeiro), o algoritmo alpha-beta terá apenas que avaliar o nó-pai do ramo de folhas das jogadas terminais, poupando assim tempo de processamento e memória.

Para ilustrar a explicação acima, dê uma olhada na figura abaixo. O valor para o nó A é 3, e na primeira rodada o valor para sub-árvore começando pelo nó B é 2. Basta observar que já que o nó B está no nível MIN, então o valor final para o nó B deve ser menor ou igual a 2. E nós já sabemos que o nó A abriga o valor 3, e ambos nós A e B possuem o mesmo nó-pai no nível MAX. Isto significa que o ramo da sub-árvore começando pelo nó B não precisaria ser visitado, porque 3 é melhor que 2 para o nó MAX. Então não vale o esforço de continuar a busca por nós filhos de B, e podemos seguradamente ignorar todo este ramo.

Minimax Cutoff

Algoritmo Minimax com variação de cortes alpha-beta

Podemos considerar a otimização acima realizada da seguinte maneira:

  1. Adicionamos mais 2 valores (alpha e beta) na chamada das funções MinValue e MaxValueHave :
    • o valor alpha que contem o melhor valor MAX encontrado a partir daquele nível.
    • o valor beta que abriga o melhor valor MIN encontrado a partir daquele nível.
  2. No nível MAX, antes de avaliar a próxima possível jogada e suas respectivas contra-jogadas (sub-árvore), o melhor valor (alpha) encontrado é comparado com o valor beta. Se o alpha for maior, então aborte a busca naquele nó.
  3. No nível MIN, antes de avaliar a próxima jogada e suas respectivas contra-jogadas (sub-árvore), o melhor valor (beta) encontrado é comparado com o valor alpha. Se o beta for menor, então aborte a busca naquele nó.

Reduzindo o tamanho da árvore

A próxima otimização é limitar a profundidade da busca na árvore e definir alguma maneira de avaliar um nó se o mesmo não for o último da árvore (folha) que representa o estado do fim do jogo. Por exemplo, em uma partida de xadrez , o tempo necessário para percorrer toda a árvore de jogadas, devido à quantidade gigantesca de opções é enorme e não seria válido. Uma solução para isso é limitar a buscar em até 3 níveis de profundidade e avaliar o estado do tabuleiro a fim de verificar se na perspectiva do jogador é vantajosa ou não. Alguns fatores como peças capturadas, posições ocupadas, ou até número de peças em posição de ataque ou capturadas podem ser utilizadas como regras de avaliação.

Esta otimização é bastante simples de ser feita em linhas de código. Consiste apenas de incluir um mecanismo que mantenha na memória o valor do nível (ply) em que se está na busca na árvore e que possa ser comparado com um valor armazenado em uma variável global (maxDepth) que define o quão profundo você pode descer pela árvore. Adicionei algumas linhas de código ao código do algoritmo minimax com variações de corte Alpha-beta para incluir a verificação de profundidade. Vejam o código abaixo:



(...)
class GameBoard:
def __init__(self):
global game_state

(...)

#Especifica a máxima profundidade da árvore de busca.
self.maxDepth = 3

(...)


def calculateChances(self,board,turn):
#Dado o tabuleiro suposto (new_game_state), calcula quantas chances
#o jogador selecionado ainda tem para ganhar e retorna seu valor.
winning_rows = eval(repr(self.end_game_state))
for i in range(3):
for j in range(3):
if board[i][j] != 0 and board[i][j] != turn:
forbidden_play = (i,j)
list_remove = list()
for row in winning_rows:
if forbidden_play in row:
list_remove.append(row)
for chance in list_remove:
winning_rows.remove(chance)

return len(winning_rows)

def judge(self,board):
#Verifica o estado final do tabuleiro.
#(Vitoria: +10,Derrota: -10,Empate: 0
# Nao finalizada: [Número de 3-sequencias abertas para Vitoria] - [Numero de 3-sequencias abertas para derrota])
winning_rows = list(self.end_game_state)
winner = None
for row in winning_rows:
row_win = [board[x][y] for x,y in row]
if row_win == [1,1,1]:
winner = 1
break
elif row_win == [2,2,2]:
winner = 2
break
if winner == 1:
return 10
if winner == None:
#Sem mais jogadas disponiveis, significa que o jogo empatou.
if self.hasEnded(board):
return 0
else:
#calcula quantas chances o jogador selecionado ainda tem para ganhar e retorna seu valor.
return self.calculateChances(board,1) - self.calculateChances(board,2)
return -10


def maxValue(self,board,alpha,beta,depth):
depth+=1
#Checa se o jogo foi finalizado (Vitória ou empate) ou se está na profundidade máxima de busca.
if self.hasEnded(board) or depth == self.maxDepth:
#Retorna o estado final do jogo (+1 Vitoria do fone, -1 Vitoria do Humano, 0 Empate)
return self.judge(board)

#Obtem todas as possiveis jogadas.
possible_moves = self.getValidMoves(board)
#Armazena a jogada que tem o melhor score.
bestScore = -100
for possible_move in possible_moves:
new_game_state = eval(repr(board))
#Telefone joga.
px,py = possible_move
new_game_state[px][py] = 1
#Obtem o minimo do proximo nivel (MIN).
score = self.minValue(new_game_state,alpha,beta,depth)
#Pega o maior score dos piores analisados.
if score >= bestScore:
bestScore = score
alpha = bestScore
if alpha >= beta:
return alpha

return bestScore

def minValue(self,board,alpha,beta,depth):
depth +=1
#Checa se o jogo foi finalizado (Vitória ou empate) ou se está na profundidade máxima de busca.
if self.hasEnded(board) or depth == self.maxDepth:
#Retorna o número de pontos acumulados pelo jogador - número de pontos acumulados pelo outro jogador
return self.judge(board)

#Obtem todas as possiveis jogadas.
possible_moves = self.getValidMoves(board)
#Armazena a jogada que tem o pior score.
bestScore = 100
for possible_move in possible_moves:
new_game_state = eval(repr(board))
#Jogador joga.
px,py = possible_move
new_game_state[px][py] = 2
#Obtem o maximo do proximo nivel (MAX).
score = self.maxValue(new_game_state,alpha,beta,depth)
#Pega o menor score dos melhores analisados.
if score <= bestScore:
bestScore = score
beta = score
if beta <= alpha:
return beta

return bestScore

def phoneDecision(self):
#Testa todas jogadas possiveis.
possible_moves = self.getValidMoves(game_state)
#Armazena a jogada que tem o melhor score.
bestScore = -100
#Melhor score encontrado por MAX ate este nivel.
alpha = -100
#Melhor score encontrado por MIN ate este nivel.
beta = 100
#profundidade atual
depth = -1
#Se possui mais de uma jogada disponivel.
if len(possible_moves) > 1:
depth += 1
for possible_move in possible_moves:
new_game_state = eval(repr(game_state))
#Inicia com a jogada do telefone.
px,py = possible_move
new_game_state[px][py] = 1
#Obtem o minimo do proximo nivel (MIN).
score = self.minValue(new_game_state,alpha,beta,depth)
#Pega o maior score dos piores analisados.
if score >= bestScore:
move = possible_move
bestScore = score
alpha = score
if alpha >= beta:
break
else:
#Como so existe uma única jogada, esta será a jogada do telefone.
move = possible_moves[0]

return move

(...)


Como se pode observar com a inclusão deste novo mecanismo de limite de profundidade, a busca é interrompida antes de chegar ao estado final do jogo. Para solucionar este problema, assumimos agora a existência de uma função heurística (chamada de função de avaliação estática) - nova implementação da função judge(). A função de avaliação estática estima valores altos para indicar situações boas para a máquina e valores baixos para indicar situações desfavoráveis para a máquina. Ela avalia o estado do tabuleiro de acordo com o nó não terminal investigado. A função aplicada neste jogo da velha retorna valores de -10 a 10, sendo que +10 significa vitória do telefone, - 10 derrota do telefone e 0 em caso de empate para as condições em que a jogada resultar no fim do jogo. Para os outros casos, em que não se finalizou o jogo, a função calcula quantas chances o jogador1 (fone) tem de completar a sequência de símbolos para a vencer e quantas chances o jogador2 (humano) tem de completar a sua sequência. O valor retornado será a diferença entre esses dois valores calculados (score_fone - score_humano). Esse valor servirá como orientador da busca, e informará o quão vantajoso é para o jogador2 se ele decidir tomar a posição no ínicio da busca como sua jogada. A outra modificação foi nas funções de maxValue e minValue para suportar o limite de busca de profundidade. Para este caso, inicializamos a máxima profundidade (maxDepth) com o valor 3, este considerado um valor razoável para um aplicativo portado para plataformas móveis. Claro, que há um custo em comparação ao algoritmo Minimax padrão, já que o novo algoritmo "estima" a vantagem de a máquina vencer a partida, acarretando na perda de "inteligência" em tomar decisões mais precisas.

Conclusão

Estamos chegando ao fim deste artigo, onde apresentamos o algoritmo Minimax que pode ser aplicado em jogos a fim de determinar qual a melhor jogada através de uma árvore de decisão com todas as jogadas possíveis. Com um simples jogo da velha desenvolvido em Python para celulares Symbian S60, demonstramos o poder desse algoritmo e seu uso para construção de jogadores inteligentes. Algumas otimizações foram realizadas a fim de tornar o algoritmo mais eficiente, especialmente por se tratar de uma plataforma móvel (celulares) caracterizadas por poder de processamento limitado e pouca quantidade de memória. Demonstramos o algoritmo com cortes Alpha-beta, que realiza os mesmos cálculos que o algoritmo MiniMax, mas é mais eficiente pois corta ramificações que são irrelevantes para o resultado final. Na maioria dos casos é impossível considerar toda a árvore de jogadas, logo é necessário também cortar a árvore ou limitar a sua construção. Criamos mecanismos de controle de busca de profundidade e também a criaçãod e funções de avaliação, que estime o valor dos nós terminais.

Outras variações do minimax existem a fim de otimizá-lo ou deixá-lo mais inteligente. Posteriormente, novos artigos podem abordar essas variações do Minimax.

Espero que tenham gostado!

O código-fonte do jogo da velha com minimax está disponível para download aqui.

Até a próxima!

Marcel Pinheiro Caraciolo

Referências

[1] AI Depot article - MiniMax Explained
[2] Generation5 - MiniMax Trees
[3] Caltech - Minimax and Alpha Beta Template
[4] AlphaBeta cuttoff discussion
[5] MiniMax and Alpha-Beta Cutoff