*** empty log message ***
[phpeclipse.git] / net.sourceforge.phpeclipse / src / test / PHPParser.jj
index e62d7e8..46fb115 100644 (file)
@@ -35,6 +35,11 @@ import java.text.MessageFormat;
 import net.sourceforge.phpeclipse.actions.PHPStartApacheAction;
 import net.sourceforge.phpeclipse.PHPeclipsePlugin;
 import net.sourceforge.phpdt.internal.compiler.parser.PHPOutlineInfo;
+import net.sourceforge.phpdt.internal.compiler.parser.PHPSegmentWithChildren;
+import net.sourceforge.phpdt.internal.compiler.parser.PHPFunctionDeclaration;
+import net.sourceforge.phpdt.internal.compiler.parser.PHPClassDeclaration;
+import net.sourceforge.phpdt.internal.compiler.parser.PHPVarDeclaration;
+import net.sourceforge.phpdt.internal.compiler.parser.PHPReqIncDeclaration;
 
 /**
  * A new php parser.
@@ -45,15 +50,13 @@ import net.sourceforge.phpdt.internal.compiler.parser.PHPOutlineInfo;
  */
 public class PHPParser extends PHPParserSuperclass {
 
-  private static PHPParser me;
-
   private static IFile fileToParse;
 
+  /** The current segment */
+  private static PHPSegmentWithChildren currentSegment;
+
   private static final String PARSE_ERROR_STRING = "Parse error"; //$NON-NLS-1$
   private static final String PARSE_WARNING_STRING = "Warning"; //$NON-NLS-1$
-  public static final int ERROR = 2;
-  public static final int WARNING = 1;
-  public static final int INFO = 0;
   PHPOutlineInfo outlineInfo;
   private static int errorLevel = ERROR;
   private static String errorMessage;
@@ -61,28 +64,10 @@ public class PHPParser extends PHPParserSuperclass {
   public PHPParser() {
   }
 
-  public static PHPParser getInstance(IFile fileToParse) {
-    if (me == null) {
-      me = new PHPParser(fileToParse);
-    } else {
-      me.setFileToParse(fileToParse);
-    }
-    return me;
-  }
-
   public void setFileToParse(IFile fileToParse) {
     this.fileToParse = fileToParse;
   }
 
-  public static PHPParser getInstance(java.io.Reader stream) {
-    if (me == null) {
-      me = new PHPParser(stream);
-    } else {
-      me.ReInit(stream);
-    }
-    return me;
-  }
-
   public PHPParser(IFile fileToParse) {
     this(new StringReader(""));
     this.fileToParse = fileToParse;
@@ -109,6 +94,7 @@ public class PHPParser extends PHPParserSuperclass {
 
   public PHPOutlineInfo parseInfo(Object parent, String s) {
     outlineInfo = new PHPOutlineInfo(parent);
+    currentSegment = outlineInfo.getDeclarations();
     StringReader stream = new StringReader(s);
     if (jj_input_stream == null) {
       jj_input_stream = new SimpleCharStream(stream, 1, 1);
@@ -117,45 +103,38 @@ public class PHPParser extends PHPParserSuperclass {
     try {
       parse();
     } catch (ParseException e) {
-      if (errorMessage == null) {
-        PHPeclipsePlugin.log(e);
-      } else {
-        setMarker(errorMessage, e.currentToken.beginLine, errorLevel);
-        errorMessage = null;
-      }
+      processParseException(e);
     }
     return outlineInfo;
   }
 
-
   /**
-   * Create marker for the parse error
+   * This method will process the parse exception.
+   * If the error message is null, the parse exception wasn't catched and a trace is written in the log
+   * @param e the ParseException
    */
-  private static void setMarker(String message, int lineNumber, int errorLevel) {
-    try {
-      setMarker(fileToParse, message, lineNumber, errorLevel);
-    } catch (CoreException e) {
+  private static void processParseException(final ParseException e) {
+    if (errorMessage == null) {
       PHPeclipsePlugin.log(e);
+      errorMessage = "this exception wasn't handled by the parser please tell us how to reproduce it";
     }
+    setMarker(e);
+    errorMessage = null;
   }
 
-  public static void setMarker(IFile file, String message, int lineNumber, int errorLevel) throws CoreException {
-    if (file != null) {
-      Hashtable attributes = new Hashtable();
-      MarkerUtilities.setMessage(attributes, message);
-      switch (errorLevel) {
-        case ERROR :
-          attributes.put(IMarker.SEVERITY, new Integer(IMarker.SEVERITY_ERROR));
-          break;
-        case WARNING :
-          attributes.put(IMarker.SEVERITY, new Integer(IMarker.SEVERITY_WARNING));
-          break;
-        case INFO :
-          attributes.put(IMarker.SEVERITY, new Integer(IMarker.SEVERITY_INFO));
-          break;
-      }
-      MarkerUtilities.setLineNumber(attributes, lineNumber);
-      MarkerUtilities.createMarker(file, attributes, IMarker.PROBLEM);
+  /**
+   * Create marker for the parse error
+   */
+  private static void setMarker(ParseException e) {
+    try {
+      setMarker(fileToParse,
+                errorMessage,
+                jj_input_stream.tokenBegin,
+                jj_input_stream.tokenBegin + e.currentToken.image.length(),
+                errorLevel,
+                "Line " + e.currentToken.beginLine);
+    } catch (CoreException e2) {
+      PHPeclipsePlugin.log(e2);
     }
   }
 
@@ -227,7 +206,7 @@ public class PHPParser extends PHPParserSuperclass {
     try {
       parse();
     } catch (ParseException e) {
-      PHPeclipsePlugin.log(e);
+      processParseException(e);
     }
   }
 
@@ -298,10 +277,14 @@ PARSER_END(PHPParser)
   "/*" : IN_MULTI_LINE_COMMENT
 }
 
-<IN_SINGLE_LINE_COMMENT>
-SPECIAL_TOKEN :
+<IN_SINGLE_LINE_COMMENT> SPECIAL_TOKEN :
+{
+  <SINGLE_LINE_COMMENT: "\n" | "\r" | "\r\n" > : PHPPARSING
+}
+
+<IN_SINGLE_LINE_COMMENT> TOKEN :
 {
-  <SINGLE_LINE_COMMENT: "\n" | "\r" | "\r\n" | "?>" > : PHPPARSING
+  <SINGLE_LINE_COMMENT_PHPEND : "?>" > : DEFAULT
 }
 
 <IN_FORMAL_COMMENT>
@@ -373,6 +356,8 @@ MORE :
 | < TRUE: "true" >
 | < WHILE: "while" >
 | < ENDWHILE : "endwhile" >
+| <FOREACH : "foreach" >
+| <AS : "as" >
 }
 
 /* TYPES */
@@ -424,20 +409,30 @@ MORE :
   < STRING_LITERAL: (<STRING_1> | <STRING_2> | <STRING_3>)>
 |    < STRING_1:
       "\""
-      (   (~["\""])
-        | "\\\""
+      (
+        ~["\""]
+        |
+        "\\\""
       )*
       "\""
     >
 |    < STRING_2:
       "'"
-      (   (~["'"]))*
+      (
+      ~["'"]
+       |
+       "\\'"
+      )*
 
       "'"
     >
 |   < STRING_3:
       "`"
-      (   (~["`"]))*
+      (
+        ~["`"]
+      |
+        "\\`"
+      )*
       "`"
     >
 }
@@ -457,7 +452,7 @@ MORE :
   >
 |
   < #SPECIAL:
-    "_"
+    "_" | ["\u007f"-"\u00ff"]
   >
 }
 
@@ -482,43 +477,45 @@ MORE :
 {
   <AT     : "@">
 | <DOLLAR : "$">
-| < ASSIGN: "=" >
-| < GT: ">" >
-| < LT: "<" >
-| < BANG: "!" >
-| < HOOK: "?" >
-| < COLON: ":" >
-| < EQ: "==" >
-| < LE: "<=" >
-| < GE: ">=" >
-| < NE: "!=" >
-| < SC_OR: "||" >
-| < SC_AND: "&&" >
-| < INCR: "++" >
-| < DECR: "--" >
-| < PLUS: "+" >
-| < MINUS: "-" >
-| < STAR: "*" >
-| < SLASH: "/" >
-| < BIT_AND: "&" >
-| < BIT_OR: "|" >
-| < XOR: "^" >
-| < REM: "%" >
-| < LSHIFT: "<<" >
-| < RSIGNEDSHIFT: ">>" >
-| < RUNSIGNEDSHIFT: ">>>" >
-| < PLUSASSIGN: "+=" >
-| < MINUSASSIGN: "-=" >
-| < STARASSIGN: "*=" >
-| < SLASHASSIGN: "/=" >
-| < ANDASSIGN: "&=" >
-| < ORASSIGN: "|=" >
-| < XORASSIGN: "^=" >
-| < DOTASSIGN: ".=" >
-| < REMASSIGN: "%=" >
-| < LSHIFTASSIGN: "<<=" >
-| < RSIGNEDSHIFTASSIGN: ">>=" >
-| < RUNSIGNEDSHIFTASSIGN: ">>>=" >
+| <ASSIGN: "=" >
+| <GT: ">" >
+| <LT: "<" >
+| <BANG: "!" >
+| <HOOK: "?" >
+| <COLON: ":" >
+| <EQ: "==" >
+| <LE: "<=" >
+| <GE: ">=" >
+| <NE: "!=" >
+| <SC_OR: "||" >
+| <SC_AND: "&&" >
+| <INCR: "++" >
+| <DECR: "--" >
+| <PLUS: "+" >
+| <MINUS: "-" >
+| <STAR: "*" >
+| <SLASH: "/" >
+| <BIT_AND: "&" >
+| <BIT_OR: "|" >
+| <XOR: "^" >
+| <REM: "%" >
+| <LSHIFT: "<<" >
+| <RSIGNEDSHIFT: ">>" >
+| <RUNSIGNEDSHIFT: ">>>" >
+| <PLUSASSIGN: "+=" >
+| <MINUSASSIGN: "-=" >
+| <STARASSIGN: "*=" >
+| <SLASHASSIGN: "/=" >
+| <ANDASSIGN: "&=" >
+| <ORASSIGN: "|=" >
+| <XORASSIGN: "^=" >
+| <DOTASSIGN: ".=" >
+| <REMASSIGN: "%=" >
+| <LSHIFTASSIGN: "<<=" >
+| <RSIGNEDSHIFTASSIGN: ">>=" >
+| <BANGDOUBLEEQUAL: "!==" >
+| <TRIPLEEQUAL: "===" >
+| <TILDEEQUAL: "~=" >
 }
 
 <PHPPARSING> TOKEN :
@@ -544,8 +541,14 @@ void phpTest() :
 void phpFile() :
 {}
 {
+  try {
   (<PHPSTART> Php() <PHPEND>)*
   <EOF>
+  } catch (TokenMgrError e) {
+    errorMessage = e.getMessage();
+    errorLevel   = ERROR;
+    throw generateParseException();
+  }
 }
 
 void Php() :
@@ -555,16 +558,42 @@ void Php() :
 }
 
 void ClassDeclaration() :
-{}
 {
-  <CLASS> <IDENTIFIER> [ <EXTENDS> <IDENTIFIER> ]
+  PHPClassDeclaration classDeclaration;
+  Token className;
+  int pos = jj_input_stream.bufpos;
+}
+{
+  <CLASS> className = <IDENTIFIER> [ <EXTENDS> <IDENTIFIER> ]
+  {
+    classDeclaration = new PHPClassDeclaration(currentSegment,className.image,pos);
+    currentSegment.add(classDeclaration);
+    currentSegment = classDeclaration;
+  }
   ClassBody()
+  {
+    currentSegment = (PHPSegmentWithChildren) currentSegment.getParent();
+  }
 }
 
 void ClassBody() :
 {}
 {
-  <LBRACE> ( ClassBodyDeclaration() )* <RBRACE>
+  try {
+    <LBRACE>
+  } catch (ParseException e) {
+    errorMessage = "'{' expected";
+    errorLevel   = ERROR;
+    throw e;
+  }
+  ( ClassBodyDeclaration() )*
+  try {
+    <RBRACE>
+  } catch (ParseException e) {
+    errorMessage = "'var', 'function' or '}' expected";
+    errorLevel   = ERROR;
+    throw e;
+  }
 }
 
 void ClassBodyDeclaration() :
@@ -576,342 +605,893 @@ void ClassBodyDeclaration() :
 }
 
 void FieldDeclaration() :
-{}
 {
-  <VAR> VariableDeclarator() ( <COMMA> VariableDeclarator() )* <SEMICOLON>
+  PHPVarDeclaration variableDeclaration;
+}
+{
+  <VAR> variableDeclaration = VariableDeclarator()
+  {currentSegment.add(variableDeclaration);}
+  ( <COMMA>
+    variableDeclaration = VariableDeclarator()
+    {currentSegment.add(variableDeclaration);}
+  )*
+  try {
+    <SEMICOLON>
+  } catch (ParseException e) {
+    errorMessage = "';' expected after variable declaration";
+    errorLevel   = ERROR;
+    throw e;
+  }
 }
 
-void VariableDeclarator() :
-{}
+PHPVarDeclaration VariableDeclarator() :
 {
-  VariableDeclaratorId() [ <ASSIGN> VariableInitializer() ]
+  String varName;
+  String varValue = null;
+  int pos = jj_input_stream.bufpos;
+}
+{
+  varName = VariableDeclaratorId()
+  [
+    <ASSIGN>
+    try {
+      varValue = VariableInitializer()
+    } catch (ParseException e) {
+      errorMessage = "Literal expression expected in variable initializer";
+      errorLevel   = ERROR;
+      throw e;
+    }
+  ]
+  {
+    if (varValue == null) {
+      return new PHPVarDeclaration(currentSegment,varName,pos);
+    }
+    return new PHPVarDeclaration(currentSegment,varName,pos,varValue);
+  }
 }
 
-void VariableDeclaratorId() :
-{}
+String VariableDeclaratorId() :
 {
-  Variable() ( LOOKAHEAD(2) VariableSuffix() )*
+  String expr;
+  StringBuffer buff = new StringBuffer();
+}
+{
+  try {
+    expr = Variable()
+    {buff.append(expr);}
+    ( LOOKAHEAD(2) expr = VariableSuffix()
+    {buff.append(expr);}
+    )*
+    {return buff.toString();}
+  } catch (ParseException e) {
+    errorMessage = "'$' expected for variable identifier";
+    errorLevel   = ERROR;
+    throw e;
+  }
 }
 
-void Variable():
-{}
+String Variable():
 {
-  <DOLLAR_ID> (<LBRACE> Expression() <RBRACE>) *
+  String expr = null;
+  Token token;
+}
+{
+  token = <DOLLAR_ID> [<LBRACE> expr = Expression() <RBRACE>]
+  {
+    if (expr == null) {
+      return token.image;
+    }
+    return token + "{" + expr + "}";
+  }
 |
-  <DOLLAR> VariableName()
+  <DOLLAR> expr = VariableName()
+  {return "$" + expr;}
 }
 
-void VariableName():
-{}
+String VariableName():
+{
+String expr = null;
+Token token;
+}
 {
-  <LBRACE> Expression() <RBRACE>
+  <LBRACE> expr = Expression() <RBRACE>
+  {return "{"+expr+"}";}
 |
-  <IDENTIFIER> (<LBRACE> Expression() <RBRACE>) *
+  token = <IDENTIFIER> [<LBRACE> expr = Expression() <RBRACE>]
+  {
+    if (expr == null) {
+      return token.image;
+    }
+    return token + "{" + expr + "}";
+  }
 |
-  <DOLLAR> VariableName()
+  <DOLLAR> expr = VariableName()
+  {return "$" + expr;}
+|
+  token = <DOLLAR_ID> [expr = VariableName()]
+  {
+  if (expr == null) {
+    return token.image;
+  }
+  return token.image + expr;
+  }
 }
 
-void VariableInitializer() :
-{}
+String VariableInitializer() :
 {
-  Expression()
+  String expr;
+  Token token;
+}
+{
+  expr = Literal()
+  {return expr;}
+|
+  <MINUS> (token = <INTEGER_LITERAL> | token = <FLOATING_POINT_LITERAL>)
+  {return "-" + token.image;}
+|
+  <PLUS> (token = <INTEGER_LITERAL> | token = <FLOATING_POINT_LITERAL>)
+  {return "+" + token.image;}
+|
+  expr = ArrayDeclarator()
+  {return expr;}
+|
+  token = <IDENTIFIER>
+  {return token.image;}
 }
 
-void ArrayVariable() :
-{}
+String ArrayVariable() :
+{
+String expr;
+StringBuffer buff = new StringBuffer();
+}
 {
-  Expression() (<ARRAYASSIGN> Expression())*
+  expr = Expression()
+  {buff.append(expr);}
+   [<ARRAYASSIGN> expr = Expression()
+   {buff.append("=>").append(expr);}]
+  {return buff.toString();}
 }
 
-void ArrayInitializer() :
-{}
+String ArrayInitializer() :
 {
-  <LPAREN> [ ArrayVariable() ( LOOKAHEAD(2) <COMMA> ArrayVariable() )* ]<RPAREN>
+String expr = null;
+StringBuffer buff = new StringBuffer("(");
+}
+{
+  <LPAREN> [ expr = ArrayVariable()
+            {buff.append(expr);}
+            ( LOOKAHEAD(2) <COMMA> expr = ArrayVariable()
+            {buff.append(",").append(expr);}
+            )* ]
+  <RPAREN>
+  {
+    buff.append(")");
+    return buff.toString();
+  }
 }
 
 void MethodDeclaration() :
-{}
 {
-  <FUNCTION> MethodDeclarator()
-  ( Block() | <SEMICOLON> )
+  PHPFunctionDeclaration functionDeclaration;
+}
+{
+  <FUNCTION> functionDeclaration = MethodDeclarator()
+  {
+    currentSegment.add(functionDeclaration);
+    currentSegment = functionDeclaration;
+  }
+  Block()
+  {
+    currentSegment = (PHPSegmentWithChildren) currentSegment.getParent();
+  }
 }
 
-void MethodDeclarator() :
-{}
+PHPFunctionDeclaration MethodDeclarator() :
 {
-  [<BIT_AND>] <IDENTIFIER> FormalParameters()
+  Token identifier;
+  StringBuffer methodDeclaration = new StringBuffer();
+  String formalParameters;
+  int pos = jj_input_stream.bufpos;
+}
+{
+  [ <BIT_AND> {methodDeclaration.append("&");} ]
+  identifier = <IDENTIFIER>
+  {methodDeclaration.append(identifier);}
+    formalParameters = FormalParameters()
+  {
+    methodDeclaration.append(formalParameters);
+    return new PHPFunctionDeclaration(currentSegment,methodDeclaration.toString(),pos);
+  }
 }
 
-void FormalParameters() :
-{}
+String FormalParameters() :
+{
+  String expr;
+  final StringBuffer buff = new StringBuffer("(");
+}
 {
-  <LPAREN> [ FormalParameter() ( <COMMA> FormalParameter() )* ] <RPAREN>
+  try {
+  <LPAREN>
+  } catch (ParseException e) {
+    errorMessage = "Formal parameter expected after function identifier";
+    errorLevel   = ERROR;
+    jj_consume_token(token.kind);
+  }
+            [ expr = FormalParameter()
+              {buff.append(expr);}
+            (
+                <COMMA> expr = FormalParameter()
+                {buff.append(",").append(expr);}
+            )*
+            ]
+  try {
+    <RPAREN>
+  } catch (ParseException e) {
+    errorMessage = "')' expected";
+    errorLevel   = ERROR;
+    throw e;
+  }
+ {
+  buff.append(")");
+  return buff.toString();
+ }
 }
 
-void FormalParameter() :
-{}
+String FormalParameter() :
+{
+  PHPVarDeclaration variableDeclaration;
+  StringBuffer buff = new StringBuffer();
+}
 {
-  [<BIT_AND>] VariableDeclarator()
+  [<BIT_AND> {buff.append("&");}] variableDeclaration = VariableDeclarator()
+  {
+    buff.append(variableDeclaration.toString());
+    return buff.toString();
+  }
 }
 
-void Type() :
+String Type() :
 {}
 {
   <STRING>
+  {return "string";}
 |
   <BOOL>
+  {return "bool";}
 |
   <BOOLEAN>
+  {return "boolean";}
 |
   <REAL>
+  {return "real";}
 |
   <DOUBLE>
+  {return "double";}
 |
   <FLOAT>
+  {return "float";}
 |
   <INT>
+  {return "int";}
 |
   <INTEGER>
+  {return "integer";}
+|
+  <OBJECT>
+  {return "object";}
 }
 
-/*
- * Expression syntax follows.
- */
-
-void Expression() :
-/*
- * This expansion has been written this way instead of:
- *   Assignment() | ConditionalExpression()
- * for performance reasons.
- * However, it is a weakening of the grammar for it allows the LHS of
- * assignments to be any conditional expression whereas it can only be
- * a primary expression.  Consider adding a semantic predicate to work
- * around this.
- */
-{}
+String Expression() :
+{
+  String expr;
+  String assignOperator = null;
+  String expr2 = null;
+}
 {
-  PrintExpression()
+  expr = PrintExpression()
+  {return expr;}
 |
-  ConditionalExpression()
+  expr = ConditionalExpression()
   [
-    AssignmentOperator() Expression()
+    assignOperator = AssignmentOperator()
+    try {
+      expr2 = Expression()
+    } catch (ParseException e) {
+      errorMessage = "expression expected";
+      errorLevel   = ERROR;
+      throw e;
+    }
   ]
+  {
+    if (expr2 == null) {
+      return expr;
+    } else {
+      return expr + assignOperator + expr2;
+    }
+  }
 }
 
-void AssignmentOperator() :
-{}
-{
-  <ASSIGN> | <STARASSIGN> | <SLASHASSIGN> | <REMASSIGN> | <PLUSASSIGN> | <MINUSASSIGN> | <LSHIFTASSIGN> | <RSIGNEDSHIFTASSIGN> | <RUNSIGNEDSHIFTASSIGN> | <ANDASSIGN> | <XORASSIGN> | <ORASSIGN> | <DOTASSIGN>
+String AssignmentOperator() :
+{}
+{
+  <ASSIGN>
+{return "=";}
+| <STARASSIGN>
+{return "*=";}
+| <SLASHASSIGN>
+{return "/=";}
+| <REMASSIGN>
+{return "%=";}
+| <PLUSASSIGN>
+{return "+=";}
+| <MINUSASSIGN>
+{return "-=";}
+| <LSHIFTASSIGN>
+{return "<<=";}
+| <RSIGNEDSHIFTASSIGN>
+{return ">>=";}
+| <ANDASSIGN>
+{return "&=";}
+| <XORASSIGN>
+{return "|=";}
+| <ORASSIGN>
+{return "|=";}
+| <DOTASSIGN>
+{return ".=";}
+| <TILDEEQUAL>
+{return "~=";}
+}
+
+String ConditionalExpression() :
+{
+  String expr;
+  String expr2 = null;
+  String expr3 = null;
+}
+{
+  expr = ConditionalOrExpression() [ <HOOK> expr2 = Expression() <COLON> expr3 = ConditionalExpression() ]
+{
+  if (expr3 == null) {
+    return expr;
+  } else {
+    return expr + "?" + expr2 + ":" + expr3;
+  }
+}
 }
 
-void ConditionalExpression() :
-{}
+String ConditionalOrExpression() :
 {
-  ConditionalOrExpression() [ <HOOK> Expression() <COLON> ConditionalExpression() ]
+  String expr;
+  Token operator;
+  String expr2 = null;
+  StringBuffer buff = new StringBuffer();
 }
-
-void ConditionalOrExpression() :
-{}
 {
-  ConditionalAndExpression() ( (<SC_OR> | <_ORL>) ConditionalAndExpression() )*
+  expr = ConditionalAndExpression()
+  {
+    buff.append(expr);
+  }
+  (
+    (operator = <SC_OR> | operator = <_ORL>) expr2 = ConditionalAndExpression()
+    {
+      buff.append(operator.image);
+      buff.append(expr2);
+    }
+  )*
+  {
+    return buff.toString();
+  }
 }
 
-void ConditionalAndExpression() :
-{}
+String ConditionalAndExpression() :
+{
+  String expr;
+  Token operator;
+  String expr2 = null;
+  StringBuffer buff = new StringBuffer();
+}
 {
-  ConcatExpression() ( (<SC_AND> | <_ANDL>) ConcatExpression() )*
+  expr = ConcatExpression()
+  {
+    buff.append(expr);
+  }
+  (
+  (operator = <SC_AND> | operator = <_ANDL>) expr2 = ConcatExpression()
+    {
+      buff.append(operator.image);
+      buff.append(expr2);
+    }
+  )*
+  {
+    return buff.toString();
+  }
 }
 
-void ConcatExpression() :
-{}
+String ConcatExpression() :
 {
-  InclusiveOrExpression() ( <DOT> InclusiveOrExpression() )*
+  String expr;
+  String expr2 = null;
+  StringBuffer buff = new StringBuffer();
+}
+{
+  expr = InclusiveOrExpression()
+  {
+    buff.append(expr);
+  }
+  (
+  <DOT> expr2 = InclusiveOrExpression()
+  {
+    buff.append(".");
+    buff.append(expr2);
+  }
+  )*
+  {
+    return buff.toString();
+  }
 }
 
-void InclusiveOrExpression() :
-{}
+String InclusiveOrExpression() :
 {
-  ExclusiveOrExpression() ( <BIT_OR> ExclusiveOrExpression() )*
+  String expr;
+  String expr2 = null;
+  StringBuffer buff = new StringBuffer();
+}
+{
+  expr = ExclusiveOrExpression()
+  {
+    buff.append(expr);
+  }
+  (
+  <BIT_OR> expr2 = ExclusiveOrExpression()
+  {
+    buff.append("|");
+    buff.append(expr2);
+  }
+  )*
+  {
+    return buff.toString();
+  }
 }
 
-void ExclusiveOrExpression() :
-{}
+String ExclusiveOrExpression() :
 {
-  AndExpression() ( <XOR> AndExpression() )*
+  String expr;
+  String expr2 = null;
+  StringBuffer buff = new StringBuffer();
+}
+{
+  expr = AndExpression()
+  {
+    buff.append(expr);
+  }
+  (
+    <XOR> expr2 = AndExpression()
+  {
+    buff.append("^");
+    buff.append(expr2);
+  }
+  )*
+  {
+    return buff.toString();
+  }
 }
 
-void AndExpression() :
-{}
+String AndExpression() :
+{
+  String expr;
+  String expr2 = null;
+  StringBuffer buff = new StringBuffer();
+}
 {
-  EqualityExpression() ( <BIT_AND> EqualityExpression() )*
+  expr = EqualityExpression()
+  {
+    buff.append(expr);
+  }
+  (
+    <BIT_AND> expr2 = EqualityExpression()
+  {
+    buff.append("&");
+    buff.append(expr2);
+  }
+  )*
+  {
+    return buff.toString();
+  }
 }
 
-void EqualityExpression() :
-{}
+String EqualityExpression() :
+{
+  String expr;
+  Token operator;
+  String expr2;
+  StringBuffer buff = new StringBuffer();
+}
 {
-  RelationalExpression() ( ( <EQ> | <NE> ) RelationalExpression() )*
+  expr = RelationalExpression()
+  {buff.append(expr);}
+  (
+  (   operator = <EQ>
+    | operator = <NE>
+    | operator = <BANGDOUBLEEQUAL>
+    | operator = <TRIPLEEQUAL>
+  )
+  expr2 = RelationalExpression()
+  {
+    buff.append(operator.image);
+    buff.append(expr2);
+  }
+  )*
+  {return buff.toString();}
 }
 
-void RelationalExpression() :
-{}
+String RelationalExpression() :
 {
-  ShiftExpression() ( ( <LT> | <GT> | <LE> | <GE> ) ShiftExpression() )*
+  String expr;
+  Token operator;
+  String expr2;
+  StringBuffer buff = new StringBuffer();
+}
+{
+  expr = ShiftExpression()
+  {buff.append(expr);}
+  (
+  ( operator = <LT> | operator = <GT> | operator = <LE> | operator = <GE> ) expr2 = ShiftExpression()
+  {
+    buff.append(operator.image);
+    buff.append(expr2);
+  }
+  )*
+  {return buff.toString();}
 }
 
-void ShiftExpression() :
-{}
+String ShiftExpression() :
 {
-  AdditiveExpression() ( ( <LSHIFT> | <RSIGNEDSHIFT> | <RUNSIGNEDSHIFT> ) AdditiveExpression() )*
+  String expr;
+  Token operator;
+  String expr2;
+  StringBuffer buff = new StringBuffer();
+}
+{
+  expr = AdditiveExpression()
+  {buff.append(expr);}
+  (
+  (operator = <LSHIFT> | operator = <RSIGNEDSHIFT> | operator = <RUNSIGNEDSHIFT> ) expr2 = AdditiveExpression()
+  {
+    buff.append(operator.image);
+    buff.append(expr2);
+  }
+  )*
+  {return buff.toString();}
 }
 
-void AdditiveExpression() :
-{}
+String AdditiveExpression() :
 {
-  MultiplicativeExpression() ( ( <PLUS> | <MINUS> ) MultiplicativeExpression() )*
+  String expr;
+  Token operator;
+  String expr2;
+  StringBuffer buff = new StringBuffer();
+}
+{
+  expr = MultiplicativeExpression()
+  {buff.append(expr);}
+  (
+   ( operator = <PLUS> | operator = <MINUS> ) expr2 = MultiplicativeExpression()
+  {
+    buff.append(operator.image);
+    buff.append(expr2);
+  }
+   )*
+  {return buff.toString();}
 }
 
-void MultiplicativeExpression() :
-{}
+String MultiplicativeExpression() :
 {
-  UnaryExpression() ( ( <STAR> | <SLASH> | <REM> ) UnaryExpression() )*
+  String expr, expr2;
+  Token operator;
+  final StringBuffer buff = new StringBuffer();}
+{
+  expr = UnaryExpression()
+  {buff.append(expr);}
+  (
+  ( operator = <STAR> | operator = <SLASH> | operator = <REM> ) expr2 = UnaryExpression()
+  {
+    buff.append(operator.image);
+    buff.append(expr2);
+  }
+  )*
+  {return buff.toString();}
 }
 
-void UnaryExpression() :
-{}
+/**
+ * An unary expression starting with @, & or nothing
+ */
+String UnaryExpression() :
 {
-  <AT> UnaryExpression()
+  String expr;
+  Token token;
+  final StringBuffer buff = new StringBuffer();
+}
+{
+  token = <BIT_AND> expr = UnaryExpressionNoPrefix()
+  {
+    if (token == null) {
+      return expr;
+    }
+    return token.image + expr;
+  }
 |
-  ( <PLUS> | <MINUS> ) UnaryExpression()
+  (<AT> {buff.append("@");})* expr = UnaryExpressionNoPrefix()
+  {return buff.append(expr).toString();}
+}
+
+String UnaryExpressionNoPrefix() :
+{
+  String expr;
+  Token token;
+}
+{
+  ( token = <PLUS> | token = <MINUS> ) expr = UnaryExpression()
+  {
+    return token.image + expr;
+  }
 |
-  PreIncrementExpression()
+  expr = PreIncrementExpression()
+  {return expr;}
 |
-  PreDecrementExpression()
+  expr = PreDecrementExpression()
+  {return expr;}
 |
-  UnaryExpressionNotPlusMinus()
+  expr = UnaryExpressionNotPlusMinus()
+  {return expr;}
 }
 
-void PreIncrementExpression() :
-{}
+
+String PreIncrementExpression() :
 {
-  <INCR> PrimaryExpression()
+String expr;
+}
+{
+  <INCR> expr = PrimaryExpression()
+  {return "++"+expr;}
 }
 
-void PreDecrementExpression() :
-{}
+String PreDecrementExpression() :
 {
-  <DECR> PrimaryExpression()
+String expr;
+}
+{
+  <DECR> expr = PrimaryExpression()
+  {return "--"+expr;}
 }
 
-void UnaryExpressionNotPlusMinus() :
-{}
+String UnaryExpressionNotPlusMinus() :
 {
-  <BANG> UnaryExpression()
+  String expr;
+}
+{
+  <BANG> expr = UnaryExpression()
+  {return "!" + expr;}
 |
   LOOKAHEAD( <LPAREN> Type() <RPAREN> )
-  CastExpression()
+  expr = CastExpression()
+  {return expr;}
 |
-  PostfixExpression()
+  expr = PostfixExpression()
+  {return expr;}
 |
-  Literal()
+  expr = Literal()
+  {return expr;}
 |
-  <LPAREN>Expression()<RPAREN>
+  <LPAREN> expr = Expression()<RPAREN>
+  {return "("+expr+")";}
 }
 
-void CastExpression() :
-{}
+String CastExpression() :
 {
-  <LPAREN> Type() <RPAREN> UnaryExpression()
+String type;
+String expr;
+}
+{
+  <LPAREN> type = Type() <RPAREN> expr = UnaryExpression()
+  {return "(" + type + ")" + expr;}
 }
 
-void PostfixExpression() :
-{}
+String PostfixExpression() :
 {
-  PrimaryExpression() [ <INCR> | <DECR> ]
+  String expr;
+  Token operator = null;
+}
+{
+  expr = PrimaryExpression() [ operator = <INCR> | operator = <DECR> ]
+  {
+    if (operator == null) {
+      return expr;
+    }
+    return expr + operator.image;
+  }
 }
 
-void PrimaryExpression() :
-{}
+String PrimaryExpression() :
+{
+  Token identifier;
+  String expr;
+  final StringBuffer buff = new StringBuffer();
+}
 {
   LOOKAHEAD(2)
-  <IDENTIFIER> <STATICCLASSACCESS> ClassIdentifier() (PrimarySuffix())*
+  identifier = <IDENTIFIER> <STATICCLASSACCESS> expr = ClassIdentifier()
+  {buff.append(identifier.image).append("::").append(expr);}
+  (
+  expr = PrimarySuffix()
+  {buff.append(expr);}
+  )*
+  {return buff.toString();}
 |
-  PrimaryPrefix() ( PrimarySuffix() )*
+  expr = PrimaryPrefix()  {buff.append(expr);}
+  ( expr = PrimarySuffix()  {buff.append(expr);} )*
+  {return buff.toString();}
 |
-  <ARRAY> ArrayInitializer()
+  expr = ArrayDeclarator()
+  {return "array" + expr;}
 }
 
-void PrimaryPrefix() :
-{}
+String ArrayDeclarator() :
 {
-  <IDENTIFIER>
+  String expr;
+}
+{
+  <ARRAY> expr = ArrayInitializer()
+  {return "array" + expr;}
+}
+
+String PrimaryPrefix() :
+{
+  String expr;
+  Token token = null;
+}
+{
+  token = <IDENTIFIER>
+  {return token.image;}
 |
-  <NEW> ClassIdentifier()
+  <NEW> expr = ClassIdentifier()
+  {
+    return "new " + expr;
+  }
 |  
-  VariableDeclaratorId()
+  expr = VariableDeclaratorId()
+  {return expr;}
 }
 
-void ClassIdentifier():
-{}
+String ClassIdentifier():
 {
-  <IDENTIFIER>
+  String expr;
+  Token token;
+}
+{
+  token = <IDENTIFIER>
+  {return token.image;}
 |
-  VariableDeclaratorId()
+  expr = VariableDeclaratorId()
+  {return expr;}
 }
 
-void PrimarySuffix() :
-{}
+String PrimarySuffix() :
 {
-  Arguments()
+  String expr;
+}
+{
+  expr = Arguments()
+  {return expr;}
 |
-  VariableSuffix()
+  expr = VariableSuffix()
+  {return expr;}
 }
 
-void VariableSuffix() :
-{}
+String VariableSuffix() :
+{
+  String expr = null;
+}
 {
-  <CLASSACCESS> VariableName()
+  <CLASSACCESS> expr = VariableName()
+  {return "->" + expr;}
 | 
-  <LBRACKET> [ Expression() ] <RBRACKET>
+  <LBRACKET> [ expr = Expression() ]
+  try {
+    <RBRACKET>
+  } catch (ParseException e) {
+    errorMessage = "']' expected";
+    errorLevel   = ERROR;
+    throw e;
+  }
+  {
+    if(expr == null) {
+      return "[]";
+    }
+    return "[" + expr + "]";
+  }
 }
 
-void Literal() :
-{}
+String Literal() :
 {
-  <INTEGER_LITERAL>
+  String expr;
+  Token token;
+}
+{
+  token = <INTEGER_LITERAL>
+  {return token.image;}
 |
-  <FLOATING_POINT_LITERAL>
+  token = <FLOATING_POINT_LITERAL>
+  {return token.image;}
 |
-  <STRING_LITERAL>
+  token = <STRING_LITERAL>
+  {return token.image;}
 |
-  BooleanLiteral()
+  expr = BooleanLiteral()
+  {return expr;}
 |
-  NullLiteral()
+  expr = NullLiteral()
+  {return expr;}
 }
 
-void BooleanLiteral() :
+String BooleanLiteral() :
 {}
 {
   <TRUE>
+  {return "true";}
 |
   <FALSE>
+  {return "false";}
 }
 
-void NullLiteral() :
+String NullLiteral() :
 {}
 {
   <NULL>
+  {return "null";}
 }
 
-void Arguments() :
-{}
+String Arguments() :
 {
-  <LPAREN> [ ArgumentList() ] <RPAREN>
+String expr = null;
+}
+{
+  <LPAREN> [ expr = ArgumentList() ]
+  try {
+    <RPAREN>
+  } catch (ParseException e) {
+    errorMessage = "')' expected to close the argument list";
+    errorLevel   = ERROR;
+    throw e;
+  }
+  {
+  if (expr == null) {
+    return "()";
+  }
+  return "(" + expr + ")";
+  }
 }
 
-void ArgumentList() :
-{}
+String ArgumentList() :
 {
-  Expression() ( <COMMA> Expression() )*
+String expr;
+StringBuffer buff = new StringBuffer();
+}
+{
+  expr = Expression()
+  {buff.append(expr);}
+  ( <COMMA>
+      try {
+        expr = Expression()
+      } catch (ParseException e) {
+        errorMessage = "expression expected after a comma in argument list";
+        errorLevel   = ERROR;
+        throw e;
+      }
+    {
+      buff.append(",").append("expr");
+    }
+   )*
+   {return buff.toString();}
 }
 
 /*
@@ -922,7 +1502,14 @@ void Statement() :
 {}
 {
   LOOKAHEAD(2)
-  Expression()  (<SEMICOLON> | "?>")
+  Expression()
+  try {
+    (<SEMICOLON> | "?>")
+  } catch (ParseException e) {
+    errorMessage = "';' expected";
+    errorLevel   = ERROR;
+    throw e;
+  }
 |
   LOOKAHEAD(2)
   LabeledStatement()
@@ -950,6 +1537,8 @@ void Statement() :
 |
   ForStatement()
 |
+  ForeachStatement()
+|
   BreakStatement()
 |
   ContinueStatement()
@@ -958,7 +1547,7 @@ void Statement() :
 |
   EchoStatement()
 |
-  IncludeStatement()
+  [<AT>] IncludeStatement()
 |
   StaticStatement()
 |
@@ -966,21 +1555,67 @@ void Statement() :
 }
 
 void IncludeStatement() :
-{}
 {
-  <REQUIRE> Expression() (<SEMICOLON> | "?>")
+  String expr;
+  int pos = jj_input_stream.bufpos;
+}
+{
+  <REQUIRE>
+  expr = Expression()
+  {currentSegment.add(new PHPReqIncDeclaration(currentSegment, "require",pos,expr));}
+  try {
+    (<SEMICOLON> | "?>")
+  } catch (ParseException e) {
+    errorMessage = "';' expected";
+    errorLevel   = ERROR;
+    throw e;
+  }
 |
-  <REQUIRE_ONCE> Expression() (<SEMICOLON> | "?>")
+  <REQUIRE_ONCE>
+  expr = Expression()
+  {currentSegment.add(new PHPReqIncDeclaration(currentSegment, "require_once",pos,expr));}
+  try {
+    (<SEMICOLON> | "?>")
+  } catch (ParseException e) {
+    errorMessage = "';' expected";
+    errorLevel   = ERROR;
+    throw e;
+  }
 |
-  <INCLUDE> Expression() (<SEMICOLON> | "?>")
+  <INCLUDE>
+  expr = Expression()
+  {currentSegment.add(new PHPReqIncDeclaration(currentSegment, "include",pos,expr));}
+  try {
+    (<SEMICOLON> | "?>")
+  } catch (ParseException e) {
+    errorMessage = "';' expected";
+    errorLevel   = ERROR;
+    throw e;
+  }
 |
-  <INCLUDE_ONCE> Expression() (<SEMICOLON> | "?>")
+  <INCLUDE_ONCE>
+  expr = Expression()
+  {currentSegment.add(new PHPReqIncDeclaration(currentSegment, "include_once",pos,expr));}
+  try {
+    (<SEMICOLON> | "?>")
+  } catch (ParseException e) {
+    errorMessage = "';' expected";
+    errorLevel   = ERROR;
+    throw e;
+  }
 }
 
-void PrintExpression() :
-{}
+String PrintExpression() :
 {
-  <PRINT> Expression()
+  StringBuffer buff = new StringBuffer("print ");
+  String expr;
+}
+{
+  <PRINT> expr = Expression()
+  {
+    buff.append(expr);
+    return buff.toString();
+  }
 }
 
 void EchoStatement() :
@@ -999,13 +1634,27 @@ void EchoStatement() :
 void GlobalStatement() :
 {}
 {
-  <GLOBAL> VariableDeclaratorId() (<COMMA> VariableDeclaratorId())* (<SEMICOLON> | "?>")
+  <GLOBAL> VariableDeclaratorId() (<COMMA> VariableDeclaratorId())*
+  try {
+    (<SEMICOLON> | "?>")
+  } catch (ParseException e) {
+    errorMessage = "';' expected";
+    errorLevel   = ERROR;
+    throw e;
+  }
 }
 
 void StaticStatement() :
 {}
 {
-  <STATIC> VariableDeclarator() (<COMMA> VariableDeclarator())* (<SEMICOLON> | "?>")
+  <STATIC> VariableDeclarator() (<COMMA> VariableDeclarator())*
+  try {
+    (<SEMICOLON> | "?>")
+  } catch (ParseException e) {
+    errorMessage = "';' expected";
+    errorLevel   = ERROR;
+    throw e;
+  }
 }
 
 void LabeledStatement() :
@@ -1017,7 +1666,15 @@ void LabeledStatement() :
 void Block() :
 {}
 {
-  <LBRACE> ( BlockStatement() )* <RBRACE>
+  try {
+    <LBRACE>
+  } catch (ParseException e) {
+    errorMessage = "'{' expected";
+    errorLevel   = ERROR;
+    throw e;
+  }
+  ( BlockStatement() )*
+  <RBRACE>
 }
 
 void BlockStatement() :
@@ -1043,11 +1700,6 @@ void EmptyStatement() :
 }
 
 void StatementExpression() :
-/*
- * The last expansion of this production accepts more than the legal
- * Java expansions for StatementExpression.  This expansion does not
- * use PostfixExpression for performance reasons.
- */
 {}
 {
   PreIncrementExpression()
@@ -1088,7 +1740,7 @@ void IfStatement() :
  */
 {}
 {
-  <IF> Condition("if") Statement() [ LOOKAHEAD(1) ElseIfStatement() ] [ LOOKAHEAD(1) <ELSE> Statement() ]
+  <IF> Condition("if") Statement() ( LOOKAHEAD(1) ElseIfStatement() )* [ LOOKAHEAD(1) <ELSE> Statement() ]
 }
 
 void Condition(String keyword) :
@@ -1126,7 +1778,14 @@ void WhileStatement() :
 void WhileStatement0() :
 {}
 {
-  <COLON> (Statement())* <ENDWHILE> (<SEMICOLON> | "?>")
+  <COLON> (Statement())* <ENDWHILE>
+  try {
+    (<SEMICOLON> | "?>")
+  } catch (ParseException e) {
+    errorMessage = "';' expected";
+    errorLevel   = ERROR;
+    throw e;
+  }
 |
   Statement()
 }
@@ -1134,7 +1793,20 @@ void WhileStatement0() :
 void DoStatement() :
 {}
 {
-  <DO> Statement() <WHILE> Condition("while") (<SEMICOLON> | "?>")
+  <DO> Statement() <WHILE> Condition("while")
+  try {
+    (<SEMICOLON> | "?>")
+  } catch (ParseException e) {
+    errorMessage = "';' expected";
+    errorLevel   = ERROR;
+    throw e;
+  }
+}
+
+void ForeachStatement() :
+{}
+{
+  <FOREACH> <LPAREN> Variable() <AS> Variable() [ <ARRAYASSIGN> Expression() ] <RPAREN> Statement()
 }
 
 void ForStatement() :